twhlw的个人博客分享 http://blog.sciencenet.cn/u/twhlw

博文

未来的新智能是什么样子?

已有 1344 次阅读 2023-4-3 22:16 |个人分类:2023|系统分类:科研笔记

现在的GPT,只有大家共同知识的统计关联调整(有巨知识无小文化)输出,无“我”的定位,就像见了谁都喊爸爸妈妈一样的小孩,只有符号,没有理解。只会用简单技术的思维处理复杂的科学、甚至哲学问题。良好的指称和语义的非有效性是表征和智能本质的基础,并从根本上影响了我们的本体论,即我们赖以理解世界的对象和属性。正如16世纪法国人文思想家拉伯雷所言,“没有良知的科学不过是灵魂的毁灭”。

智能有点像时间,大家都能感觉到,一说出来(尤其是一旦变成各种公式)就不是智能了。

未来更新的智能,不但要有概率的连接、概念的沟通,还应有概框的透视和概算的能力,真正能够将一个对象作为一个世界中的对象来认识,就是认识到它超出了能被掌控的范围(语义盲区),即从A=A到A=X。

科学家可能喜欢从差异中看到同一的东西,要找规律、找结构;艺术家是在同一中看到差异,差异性的东西反而是创造之源。A=A反映了多一的特殊性关系,任何事物都是它本身,万变不离其宗;A=X反映了一多普遍联系关系,一花一世界。人、机分别对环境的表征一致性也是人机混合智能研究的关键吧!

世界是由事实与价值构成的,事实常常与物理性时空有关,价值则相反,往往与非物理性时空有关。人工智能当前解决的大多是事实性问题,还很少涉及到价值性问题。哈耶克说:“一个秩序之所以可取,不是因为它让其中的要素各就其位,而是在这个秩序上能够生长出其他情况下不能生长出的新力量。”

列斐伏尔提出“空间生产”概念,从政治经济学的角度研究了物的生产和生产关系的互动,提出了总体性的生产关系再生产的观念。智能对于列斐伏尔空间生产理论的借用,从一个新的视角重新定义了智能的时空,也就是把智能中呈现物的时空与呈现意义的时空置于一种辩证的关系之中,从总体性的角度出发来看待智能的物理时空、事实时空以及价值时空,从而避免了对于智能时空概念使用的生吞活剥,为智能开辟出一个新的视野。

或许,最好的智能一般附着在文学里、艺术上、生活中个性化地处理世界事物的多义性,而不是如自然语言处理的NLP、人工神经的XNN和各种GPT共性化地对待一些符号吧?!

GPT利用self-attention模型盯着各种字词相关统计,调控匹配概率。很显然,这是把智能变成统计学,是从“统计学”的角度来理解“智能”,因为智能的好坏取决于协调的程度,而不是匹配概率的高低。智能的好坏和统计指标的大小没有直接关系,不能认为某个相关数值(如“我”和“们”)高了,协调的程度就更好了或更坏了,这意味着这些统计指标都只具有统计意义,而没有智能意义。并且,统计指标本身就是字词(符号)匹配的产物,程序相当于自己调控自己,而不是在调控“智能”。所以,程序的宏观调控在价值逻辑上是不能成立的,在实践上是盲目的。

破除GPT机械化的关键,是回到一般性规则。关于一般性规则,可以举些例子。比如意图、动机、竞争和应对策略的自发产生都是一般性规则。如让程序来代替人,对某项行为或服务进行评价,确定智能等级,然后强制让大众接受这种等级,这就违背了一般性规则,因为这种方式否定了人类个体自主确定价值,并以自主选择的方式产生行为和价值等的权利。行为和价值正是无数个体在相互的评价和交互中自发产生的。智能程序(有点像计划经济)正是以专家评价代替实践评价为特征的,目前在很多领域,如在自然语言处理领域,仍然通行这种统计评价和预定等级制,这属于“智能乌托邦”,它对于知识创新是非常不利的。

哈耶克的“反乌托邦”思想,对当下面临的智能问题也有重要启示。我们说,乌托邦思维正是阻碍智能发展的因素,因为它扭曲了人的行为,把人的行为引到与价值创造无关的领域中,如智能研究领域普遍存在。减少一点乌托邦思维,把扭曲的制度回归正常,更多地让行为和价值机制发挥作用,就是加快智能发展的手段。智能的发展,不应该着眼于规则模型、统计概率和机器学习,而是要着眼于纠正扭曲的认知机制,使之与一般性规则相符,这种方式对整个智能体系来说是成本最低的,因为它不像机器学习那样,需要大量的软硬件投入。相反,在没有纠正扭曲的机制的情况下,推行各种机器学习机制不仅不会有效果,反而会使问题加重。

智能当下面临的威胁,包括认知和绩效危机,都是乌托邦思维的产物。破除流行的乌托邦思维绝非易事。所以智能研究领域的任务正是破除乌托邦,而不是考虑在当下的机器学习环境下可以做什么,智能研究的任务是“使得从今天的智能角度看来不可行的政策具有智能上的可能性。”

mmexport1565970688761.jpg

mmexport1677718144226.jpg


英文书封面.jpg



https://blog.sciencenet.cn/blog-40841-1382859.html

上一篇:ChatGPT的哲学基础是?
下一篇:[转载]曲阜师大精心保存首台103计算机
收藏 IP: 124.64.121.*| 热度|

1 许培扬

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-7-18 03:38

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部