twhlw的个人博客分享 http://blog.sciencenet.cn/u/twhlw

博文

GPT与人类的智能

已有 1731 次阅读 2023-4-17 10:33 |个人分类:2023|系统分类:科研笔记

无论是数学,还是目前人工智能中的逻辑,抑或是可见未来人工智能中已经提出的科技,都不会带来真正的智能(但依然可以带来高级自动化)产品或系统。人类智能的本质是一种心理过程,相比之下,机器智能的本质则是一种数理化了的心理过程。相比人类经过漫长岁月磨砺出的智能,按照数据、算法、算力所体现的机器智能与之完全不在同一个档次。智能化会过分强调局部技术性,从而忽略了整个人机环境中各个角色、动态系统的作用,因此,我们需要重新认识智能化,即所有的智能因素(产品)只是全局体系中的一个节点,在动态人机环境生态系统中会不断主动或被动地调节自己的权重以适应真实世界的富变性。

真实世界的变量太多,很难穷尽所有的变量去用模型计算,更重要的是这些变量的主次也会不断交替变化,人们有限的时空很难实现有效的可计算性,所以常常会根据内外变化,利用各种机缘巧合随机应变,用各种关系变化的算计去实现追求确定性公式化的期望。更重要的是,人类智能明白没有人能够掌控智能的所有变量,这次的成功并不意味着下次的胜利,上次的失败也可能并不意味着方法就错了,世界是多因多果多元多维的共在,数据的交互产生了信息,信息的交互产生了应用,所有的信息a具有存在与非存在两种属性,存在的属性是实在共识性b,非存在的属性是意向价值性c,所以a=b+c i,而大多数人只看到了信息的实部,没有看到信息的虚部,而虚部恰恰反映了更多的可能性,但这与人的经验和阅历有关。

人性的形式结构不是简单的趋利避害利己的理性,与机性的经济学“理性人”形式结构不同,如GPT只有称而没有指,而不会说话的小孩子虽不会称但早已会指,并用各种感性的表情与世界沟通交流。

GPT 的全称是生成式预训练 Transformer 大模型,在 NLP 领域本质上是不断求解下一个词(Token)出现的概率。然后再将这个词作为下一个时间步的输入,如此往复进行生成,最终获得一个连贯、通顺的文本。attention 的本质就是加权,对transformer来说,就是以sequential series 关联的信息加权。但是,关联有很多方式,sequential series 只是其中之一。原则上,以任何形式关联的信息,都可以加权处理,这是普遍意义上的attention。所以GPT也可以认为是有数据没信息,有知识没文化,有概率没意识。正如布莱恩史密斯所言“达到人类档次的智能需要从表征"解放出来",委身于世界整体,拥抱世界那无法言说的丰富性。一个系统,无论是人还是机器,只有当其能够带着决绝的担当、切身的利害和坚定的决心去面对世间的事物,才可以真正地指称一个对象,进而具有分析本体关系、辨别真伪、对情境做出恰当反应、真正肩负起责任的能力。”,从这个角度而言,GPT也许就是一个不识字的基于统计的推荐系统,而且还可能有侵犯众多知识产权的嫌疑。




尽管作为一个真实存在的概念,算计也有它的批评者,他们认为它的信息量太小,没有什么大的用处,甚至在中国还有贬义色彩。但至少,算计有助于解释为什么人们能发现在自然界与人类社会混合中的不同尺度上运行的物理定律、人文现象/过程的等级。如同涌现性的一种表述“高层次具有低层次没有的特性,一旦还原到低层次,这些高层次的特性便不复存在”一样,算计是一种高层次信息、知识、经验和逻辑的合成,一旦变成计算过程,这些高层次的特性也会不复存在。

信息既有事实性也有价值性,既有确定性也有不确定性;语言在反映共识事实时是确定的,在反映个性价值时是不确定的。语言,特别是人类的自然语言,离开智能的核心有相当的距离,虽然自然语言对塑造人的智能起着关键作用。正反馈熵增,负反馈熵减,人机环境系统既要正反馈又要负反馈,无序增加的正反馈可以富有创造力,有序增强的负反馈可以加强鲁棒性。

未来的人机环境系统,主要是通过计算+算计实现的,计算侧重客观事实性的反馈,算计关注客观事实与主观价值及主观价值之间的混馈,在此,我们不妨简化为:事实之间是映射关系(即函数、函项,其基准是:A=A),事实与价值之间是态射(不同于范畴论中的态射,其基准是:A=X),价值之间是势射(最大可能性之间的转换关系,其基准是:X=X)。计算的主要结构是映射,算计的主要处理手段则是态射、势射。态射、势射的逻辑与映射逻辑不同,是一套新的逻辑体系。算计即不用数字的计算,只用强弱大小等定性关系的计算,算计或谋算或庙算不是计算的共轭或对立概念,算计是计算的前奏或序曲,也是计算的指挥和导演,是“多算胜少算不胜”中的“算”。 算计即通过概念、非概念及亚概念的关联,进行多种假设并获得相应的行为结果,接着对之实施否定、追问、推测、比对、平衡找出可能的结论,争取抓住主要矛盾的主要方面及时解决问题。人工智能的计算源自形式逻辑框架,人类智能的算计脉于辩证思维体系,人机融合智能根本在逻辑与非逻辑的思想结合:无论是非,只管正反,不止叠加,还有纠缠。或许,计算是科技的基础,而算计则是艺术+技术的范畴,算计是异质异构的直觉过程,其系统与边界往往是不确定、跨域的,算计与人文艺术一样不认可有惟一性,不认可“有且只有”的假设或前提。算计是辩证逻辑的,往往不遵守数学等形式逻辑的“同一律”、“排中律”、“非矛盾律”,对于各种事实性矛盾问题或可以通过迁移到价值时空进行解悖。从事实中推出价值的关键在于“结果”,先跑一遍,把能导出价值的算法留下进行“收敛”,最终得出你想要的“价值”。



物理域中许多因素的变化是有规律的,所以有许多定律模型,认知域中许多因素的变化不是特别有规律的,如复杂度、对抗性、风险性、时效性都是变化的,这就造成了信息域中存在着大量的湍流和杂乱,如何破解呢?一般意义上的数学方法常常不能解决,需要进行相应的加工和处理后才能应用,比如GPT就加入了离线人类反馈增强学习环节,事实上,在人机环境系统中还需要在线的有人类反馈的增强解释、理解、学习、调节等诸多环节。自主系统中的价值常常没有概率,人的概率与机的概率不同,使用AI的人若保守,则AI相对保守,使用AI的人若激进,则AI相对激进。

AI在压缩时空、压缩事实的同时,但没有压缩价值和责任,正如社会学家泰德尼尔森的以下引述完美地总结了 AI使用的困境:“关于计算机的好消息是,它们会按照您的吩咐去做。坏消息是他们会按照你的吩咐去做。”。而真实的智能是一个需要人深度介入的领域,就像量子力学也是人物相互作用的产物。人类的算计或直觉也是计算,是一种混合了事实、价值、责任等诸多异质因素的另类的特殊感性计算,算计中有感性的穿透。GPT很难有效地进行这种异质性的混合计算-算计,这既是不幸也是庆幸。





https://blog.sciencenet.cn/blog-40841-1384531.html

上一篇:三本小书的前言
下一篇:AI(机器学习)的下一个风口
收藏 IP: 124.64.121.*| 热度|

7 郑永军 王安良 李剑超 孙颉 高峡 许培扬 杨正瓴

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-12-23 11:55

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部