twhlw的个人博客分享 http://blog.sciencenet.cn/u/twhlw

博文

AI与罗素的火鸡

已有 2230 次阅读 2021-7-11 16:56 |个人分类:2021|系统分类:科研笔记

为什么说AI在应用中都存在问题?不少还是致命的!


罗素说,有一只火鸡,农夫每天来给它喂食。经过长期观察后,火鸡得出结论,“农夫来到鸡舍,我就有吃的”,之后每天的经历都在证实它的这个结论。但是有一天,农夫来到鸡舍,没有带来食物而是把他杀了,因为这天是圣诞节。


罗素用一个寓言来阐述休谟。主要说明人类的经验只是经验,不是绝对的理论,所以只能怀疑。假如我们看AI应用,也能阅读到很多类似的故事。如何容易理解“AI的怀疑主义”?还是从时间说起。 


态势不是态势物,态势物有时间性,态势没有时间性。同样,AI是态势物,具有时空性,却用来处理态势,因此,常常是驴唇对不上马嘴。


人工智能公司犹如制药厂,各式各样的数学模型犹如各种各样的药片,这些总是号称不二不菲的数学模型应用在何时何处何方式犹如何人何时何方式吃药一般,药是好药,用的不对也是大概率的有害,何况很多药不一定就是好药,副作用就更不可预测了。


相比机器智能,人类智慧的弹性往往不在单一的理性,而在多、变的感性和理性的混合使用,随时可以越界寻找方法和工具。一阴一阳谓之道,事实性的表征、推理、决策谓之阳,价值性的表征、推理、决策谓之阴,责任性的表征、推理、决策谓之道。


人工智能是按规则逻辑下棋,真实的实践中,人们常按自己的经验不受规则约束去博弈,二者融合怎么博弈呢?若以人机混合比拟,如何确定混合的规则呢?单一的形式逻辑已经渐露难色,组合逻辑、交叉逻辑、知几逻辑、趣时逻辑、变通逻辑、辩证逻辑正在登机……,进而言之,或许公理们也有此意:组合公理、辩证公理……


哲学是提问及阐释,科学就是再加上或逻辑或实验的验证。自由是对必然的认识(如庖丁解牛),自由不是绝对的,在不同的任务情境态势下,人们对自由的理解是不同的,它受制于自然环境、物质条件、内心诉求、他人诉求等等。不同的智能体在不同的发展阶段,有为大众所认可的、共识性的、普遍的智能观念,可以形成各种深度、强化、演化、迁移学习模型进行计算,但是,生活要比电影更丰富,实践要比理论更真知,算计要比计算更犀利,特殊性要比普遍性更普遍,人工智能若解决不了非预设利己与利他的选择矛盾,那就只能是一只罗素说的火鸡:明天的菜,后天的无。



https://blog.sciencenet.cn/blog-40841-1295045.html

上一篇:概念,是个超三体的问题,也是一个计算计问题
下一篇:有关未来智能化战争的几个问题
收藏 IP: 124.64.124.*| 热度|

3 杨正瓴 焦飞 陈志飞

该博文允许注册用户评论 请点击登录 评论 (3 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-4-19 12:37

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部