科学文化足迹分享 http://blog.sciencenet.cn/u/lvnaiji 邮箱:naijilv@gmail.com

博文

ChatGPT管窥(中)二、无心插柳柳成荫 精选

已有 4793 次阅读 2023-4-22 17:42 |个人分类:认知科学|系统分类:科研笔记

吕乃基

1.社会知识论(和/或知识社会学)视角

可以由不同视角来理解ChatGPT所提交的知识及其“生成”过程,其中之一是社会知识论。

陈嘉明,社会知识论 (上)[J]哲学动态2003,2,29-32;社会知识论 (下)[J]哲学动态2003,2,22-26;

顾林正,从个体知识论到社会知识论——当代知识论的另一个转向[J]科学技术与辩证法2007,6,51-54;

陈东玉,个体知识结构与社会知识结构[J]现代情报2003,2,156-157,145

与此相关的学术领域是知识社会学,主要观点是,知识是由社会“形塑”,即SSK(social shaping knowledge)。

社会知识论与知识社会学并无截然分明的界限,笔者的感觉是,前者名称落在“知识论”实际重社会学;后者名称落在“社会学”,内容上更关注认识过程,尤其是科学知识的认识过程,如“科学知识社会学”。

社会知识论主要关注以下三点(陈嘉明)。其一,在个体的认识中,社会条件是否进入个体知识中。其二,个体与群体认识活动所涉及的社会组织; 即认识的努力与责任的优化分配与描述, 包括认识的任务、责任与权益如何按社会关系在认识主体中进行分配。其三,集体知识的性质。是否知识为群体、社群或机构所拥有?是否这类集体的知识仅仅是一些群体知识的总汇,或是包含了更多的东西;假如是这样,那么在何种方式上知识取决于社会关系?

传统认识论很大程度上沿袭笛卡尔以个人为认识主体的立场,上世纪下半叶发展到有多人参与,基本上属于同一“范式”的“共同体”,如实验室、课题组、学术团体和学派等。上世纪末提出了“社会知识论”,侧重人际的知识获取模式。

在更广泛的领域,近年来越来越多的情况是,上述认识主体进一步分离为甲方和乙方,前者如政府部门、公司,乃至个人,后者如高校、科学院、社科院和各种智库。乙方专门从事某个或某些领域的研究,能提供相应的知识服务,既具备专业的知识和技术能力,又相当熟悉相关领域甲方的需求,能够向甲方提供可视化的分析,完成后者委托的事项。在很多场合,甲乙双方的角色可以互易,譬如智库既可以作为乙方承接政府或公司的委托,也可以作为甲方向高校等机构或个人发包。

问题是,个体(甲方)是否,以及凭什么信任乙方及其所提供的知识?

2.

ChatGPT横空出世,成为前所未有的乙方。在本文中,就是用户,甲方何以信任和接受chatGPT及其所提供的知识?

其一,在chatGPT的运行中,知识,在更大的视野下也就是波普尔提出的世界3,自身的运行方式不一样。传统认识论从普遍原理如“抽象规定”到“具体的再现,由因果关系在逻辑上不容置疑地推出结论,因而意识形态和价值观预先就设定于回答之中,难以摆脱意识形态的纷争。

固然,chatGPT所做出的回答本身,在内容上不可避免带有这样或那样的意识形态。然而chatGPT按最大概率回答甲方的问题,去除了语境,避开了场景,打乱所有的“意义”、拆除一切好恶竖起的壁垒,消解引起纷争的源泉。从人类知识库“塌缩到问题域,加之chatGPT“自己”都不理解所给出的回答,故而非有意为之,在一定程度上可以避嫌,而为甲方所接受。

试想,要是chatGPT真的“读懂”巨量的资料,按特定意识形态从中加以选择和排列组合,以及“理解”最终的文本,chatGPT还会得到眼下如此多跨国界跨文化的接受和赞许,还会有如此迅猛的发展势头?乔姆斯基在批评chatGPT时揭示了这一点,那就是“非道德性(amorality)”,实则非意识形态。

真可谓,有心栽花花不开,无心插柳柳成荫。

其二,爱/狠屋及乌。用户是否接受某种观点,自然先在于其内容的真实性、逻辑性和意识形态的倾向性,不过由谁来讲也关系重大。对某个主体(国家、机构、个人)的好恶会严重影响到对其之所言的接受程度。然而在chatGPT回答的背后,不存在一个明确的主体。是比尔盖茨还是奥特曼回答了问题吗?不是!是微软还是Open AI回答了问题吗?都不是!chatGPT之所以可接受,是因为它(至少相对来说)不是传统意义上的主体!或者说,相当于传统甲乙双方之外的第三方。

甲方的委托无疑具有明显目的性,乙方一方面因与甲方分离而较少利益相关,有可能相对客观冷静地从事研究,然而依然利益攸关,例如四大会计事务所之一德勤被罚款的事件。当乙方是人工智能时可以在更大程度上屏蔽利益。ChatGPT排除来自社会的各种影响,如个人权威(乔姆斯基)、政治权力(戈培尔 谎言重复一百遍)和利益等。

谷歌刚刚开放公测的生成式AI Bard相当地大义灭亲。义正言辞地指责“谷歌收购竞争对手,施压网站使用其工具,对其广告交易进行限制。这些措施损害了消费者,扼杀了数字广告市场的创新。我希望法庭认可司法部的诉求,下令谷歌采取措施打破垄断。”Bard并没有因为谷歌出品,就给予母公司特殊待遇,谷歌也没有干预Bard的看法。

看来,chatGPT,还有Bard等,正在默默地培育“自己”的信用,形成不同于人类及至人类之前所有生命的主体性。

其三,乙方,chatGPT本身及其提供的回答处于市场的竞争之中,并不具有在某个时空领域的垄断地位。乙方并不把知识强加于甲方,甲方可以认可、反馈、追问、拒斥乙方所提供结果,或悬置判断。甲方也可以去找其他乙方,譬如谷歌的Bard,在中国国内,眼下更是百花齐放,因而甲方拥有充分的选择权。甲乙双方的关系基本上无关利益和意识形态。所有这些换来了形形色色的甲方对chatGPT作为乙方的信任。

“未来应该不是OpenAI或者微软一统天下,相对有责任感的大厂商会提供多种选择,这样几家大厂商互相牵制好过一家独大。”华大集团首席执行官尹烨认为,“在各行各业都会出现百花齐放,生物多样性,这可能是一个终局。”

其四,巨无霸的知识库,既保障了回答之面面俱到,又淡化抹平了个别鲜明尖锐的言辞,大大扩展了适用面和接受度。代价是,有些甲方可能会感到论点不过瘾,以及缺乏新意。然而来无踪去无影的“涌现”,回应了对chatGPT的这一指责。不过,涌现未必都是积极的一面。chatGPT可以说是无穷多个认识主体,乃至人类的知识和智慧(群知和群智)之集成。

相对于传统的乙方来说,chatGPT成为几乎无所不知无所不能。ChatGPT不仅如乙方那样为甲方工作,而且帮助甲方站在巨人——不只是牛顿、爱因斯坦等寥若晨星的精英,而且是多得多的个人,乃至历史和当下人类的肩上,促使甲方的思路更为全面和条理化。

于是最后,也是最重要的是,chatGPT的回答,除了少数错误外,在大多数情况下让用户感到满意,甚至超出用户之所想,起到了实际效用,并且持续改进。

3.

chatGPT并不预设知识之普适性、地方性,还是个性,却在实际上既达到最大程度的普适性,可以与其他知识交流,又嵌入语境,满足地方性和个性所需。在InstructGPT中“goodness of sentences”的评价标准是真实性:非虚假不误导;无害性:不对人或环境造成身体或精神上的伤害,以及有用性:完成用户委托。

华为https://mp.weixin.qq.com/s/4UL7kT64thzbTtsPCmeBxw 

亚马逊云科技资深首席科学家、亚马逊云科技上海人工智能研究院院长张铮认为,chatGPT成为各种不同观点、专家言论等背后,在一定程度上共同认可,具有某种权威性的文本和试金石。一面客观的镜子,可以反观人类创造内容的能力和水准。

张峥:人工智能的现状和未来2023-02-19https://mp.weixin.qq.com/s/wTd7bTUfnfubGp-nfJqQlA 

ChatGPT为众多甲方提供的不同服务具有基本上一致的语境,有助于形形色色的甲方的“主体间”,在此基本一致的语境下展开合作和博弈。在某种程度上为社会,进而为人类奠定共同和基础的知识结构,成为个人、机构,甚至国家和民族知识结构的源泉。

许纪霖表示,GPT犹如海平面一般,成为衡量一个好学生的底线标尺。

赵汀阳告诫,GPT可能被识别为思想权威或人民代言人。段伟文警告,当心将自动生成的知识视为“神谕”的知识权威幻觉。

奥特曼承认,GPT-4确实存在应对不同价值观的人的问题。GPT在迭代过程中“偏见”必然存在,它不可能保持完全中立。ChatGPT坦陈自己是基督徒。奥特曼警告说:“ChatGPT 非常有限,虽然在某些方面已经足够出色,足以给人一种伟大的误导性印象。现在依赖它来做任何重要的事情都是错误的。

 

目前看来chatGPT还存在种种缺陷,即使今后进一步完善,作为甲方,作为甲方的集合,人类,有必要对其所提供的回答保持思考和质疑的立场和能力



https://blog.sciencenet.cn/blog-210844-1385352.html

上一篇:ChatGPT管窥(中)——认知科学与知识论的视角 一、传统认识论视角
下一篇:ChatGPT管窥(中)三、新的知识生产模式
收藏 IP: 49.74.77.*| 热度|

15 王涛 杨正瓴 黄永义 李剑超 康建 崔锦华 郑永军 晏成和 孙学军 胡业生 李升伟 武夷山 刘钢 马雷 许培扬

该博文允许注册用户评论 请点击登录 评论 (2 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2023-10-3 06:24

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部