XLiblog的个人博客分享 http://blog.sciencenet.cn/u/XLiblog

博文

与师生谈人工智能5:强人工智能 精选

已有 6280 次阅读 2021-8-1 09:12 |系统分类:教学心得

学:学生,教:教师,李:李晓榕

学:什么是“强人工智能”?

李:简单地说,就是具有人类或更高水平的纯机器的真正智能,而“弱人工智能”能完成各种任务,但不具有人类水平的智能。我觉得,“强人工智能”的信念主要植根于近现代科技、特别是牛顿力学大获成功以来盛行的还原主义和机械主义:万事万物最终都可归结于基本粒子的物理行为,因而都能物理地、机械地、计算地实现;它认为电脑和人脑都是信息处理系统,而信息处理就是计算,所以智能无非计算,从而否认意识、智能等精神活动在最终本质上有别于计算(和物质)。这种观念接近于唯物论。唯心论者和“心物”二元论者一般认为智能属于“心”的范畴,机器不可能是智能的。唯物论者相反。早在17世纪,著名唯物论者、英国著名哲学家霍布斯就有名言:一切思维不过是计算(即加与减)。不过,唯物论者未必都认为机器可以是智能的。

  对于“机器能否是智能的”这个问题,我觉得现在是争不出结论的,双方难分胜负,也难以调和。这不是一个逻辑或者形而上学问题,无法靠思辨解决。“智能”、“思考”等模糊概念是人们从人的心智表现抽象而成的,它涵盖广泛,受诸多因素影响,无法客观精确定义。《多重智力》(Howard Gardner, Multiple Intelligences)和《智慧、智力、创造力》(R. J. Sternberg, Wisdom, Inteligence, and Creativity Synthesized)等书对此有详尽描述。争论双方对“智能”、“思考”、“机器”的理解可以很不同。

  相信“机器可以是智能的”的正方,可以剥去智能概念中与人密切相关的部分,强调其非精神的理性计算内核或者它足以完成任务的功能。比如认为,按奥康剃刀,在被证伪之前,应该认为智能都可计算,既然图灵机能做任何计算,因而机器可以是智能的;人类智能只是大脑神经系统的功能性质,完全可由机器复制;智能可能是这种系统整体涌现的功能性质,未必可还原为其任何部分。甚至认为以人工智能为代表的机器智能业已创生,已有大量成果,以至于其极端者可以像麦卡锡那样认为恒温器有信念,或者像毕达哥拉斯学派那样相信世界是由整数主宰的。还可强调说,思考不必限于人类思考模式,面对功能强大的机器问“机器会思考吗?”,就像问“车辆会行走吗?舰船会游泳吗?”一样不得要领;说“机器因无法理解或缺乏自我意识而不可能有真智能”,就像说“车辆因无腿脚而不可能真会行走,舰船因无手脚而不可能真会游泳”一样不得要领:就像行走(或游泳)的关键在于在地上(或水中)从一处到另一处一样,智能的关键在于能胜任各种任务。

  反方的极端者可认定“智能”与人和生命的关系如此密切,它可包括需求、欲望、经历、理解、情感、意志、交往等,甚至人性、道德、人的身躯及其运动能力等,以至于创造智能就差不多等于创造人群,既然机器不可能是人,所以机器也就不可能是智能的。或者不那么极端,只认为:既然连数理逻辑和许多数学问题都不是能行可解的,人类智能至少包括数学在内,那么涉及精神层面的智能和大自然一样必定至少含有不可计算的核心成分,所以机器不可能是智能的。无论机器有多么“智能”的行为,能完成怎样的任务,也无法真正像人一样理解、有类似于人类的明确清晰的自我意识。我们所知道的智能者,都能理解而有自我意识,凭什么相信存在无需理解和自我意识的智能者?又凭什么相信理解和自我意识会在机器的系统层面涌现?行走和游泳只有少数简单的实用功能,而智能不同,其实用功能包罗万象,难以用能否妥善完成几项任务来评判。简言之,机器能干活,但不会思考,谈不上有智慧。

  智能是否有赖于自我意识,意识究竟是什么,如何判定是否有意识,这些都是老大难问题。信息处理、智能行为等概念都可以像上面这样有不同的实质内涵。常人大都在正方和反方的两个极端之间,认为“智能”被一方矮化(形式化、计算化、机械化)了,被另一方“人化、神化”了。说智能、意识等如此神奇的精神现象是完全由物质产生的,这因无证据而难以令人信服,但说它另有神秘起源至少也同样难以置信。我想,不妨阙疑搁置——不必急于脱困,因为各方都缺乏真正的证据,所述都是基于信念的臆断。而且,对“机器”也可以有不同的理解,它可限于只用句法的形式计算程序操控的东西,也可以是含义更广泛的非生物,因而不限于可计算函数。

  其次,可以认为,“智能”涵盖从专能到无上智慧的全范围,是个“连续谱”。要达到哪种程度,才说一个东西有“智能”?类似地,一个人要愚蠢到什么程度,才“没有智能”?注意,按定义,就连白痴也有非零智商。这正像多少粒沙子堆在一起,才能说是一堆沙一样难以有共识。

  再者,美国实用主义大哲学家、心理学家詹姆斯等人认为,意识是机能(function),不是实体,也无法还原为实体。他说1可见,意识不会以碎片的形式出现,……它流动着。把它比喻成一条“河”或者“流”是最自然的描述。当代著名神经学家埃德尔曼也指出,意识是一个过程,它是脑这种特殊的结构形态与环境相互作用时表现出来的动态性质。类似地,也许“智能”不是一种明确的“东西”,而是一种难以精确把握的“流变”存在,比如必须靠与上述维特根斯坦的“家族相似性”类似的某种联系来理解,或者智能依赖于智能体与外界的交互,离开了外界,就谈不上智能,正像你的脑(“活脑”)离开了你,就只是“死脑”而没有“活性”一样。由完全精确确定的算法构成的人工智能能否拥有这样一种“流变”存在,更可以见仁见智。

  即便不考虑上述几点,“机器能否是智能的”这个问题也难以论证,更难以达到令人信服的程度,就像“物质能否产生精神”这个问题难以论证一样。对精神与物质的联系理解得越透彻,唯物论者越会认为那证明了物质能产生精神,但唯心论者和二元论者仍不会动摇。唯物论与唯心论争论了几千年而无望看到结果,是无法靠论证解决的:信什么、倾向于哪一方,完全取决于个人的最终信念,不同的最终信念都足以形成各自的自足体系。

  即使达到人类智能水平的机器业已问世,反方的中坚分子也仍会认为这些机器并无真智能,只是模仿得惟妙惟肖而已,正如塞尔的“中文屋”论证一样。所以,人工智能的开山大师马文·明斯基抱怨说2一旦机器能够完成某项任务,在质疑者眼中这项任务就不再体现智能,所以智能就像“未经探究的非洲区域”:一经发现,便即消失。这样游移不定,很不公平。业内称之为泰斯勒(Larry Tesler)定理或人工智能效应:人工智能成果问世后不被当成人工智能的成果,而被冠以非人工智能的名称。的确如此。

  不过,人们一再这样“出尔反尔”却不觉理亏,有深层原因:人们原以为这些任务依赖于智能,但研究成果表明,它们可以被各自的算法程序完成,无论多么复杂,也只是按事先确定的程式顺序规则地、按部就班地靠计算执行完成的,——这与人们心目中“智”的核心内涵(它似乎包括非机械化程式化的灵、巧、变)大相径庭。因此调整认识,“耍赖”而不再承认这些任务体现智能,反而说它“能则能矣,非智也”。人们一再这样“出尔反尔”,更说明人们难以接受按部就班的算法程序为“智能的”,即下意识地认为机器不会有智能。举例来说,原来认为速算能力强是高智力的体现,计算机问世后,认识改变了;过去认为高手下国际象棋是高智力活动,“深蓝”战胜此前从无败绩的卡斯帕罗夫后,认识改变了。这可以辩护如下:这样“出尔反尔”,改变的只是观念的外围地带,核心并没变。所以关键是,“智”的核心内容可否完全是按部就班的、程序性的、计算的,而这又回到上述争论了。何况,能做好某事(比如下棋和速算)与高智力有很强的正相关,即便对人类来说的确如此,这并不能证明,对非人类来说也必定如此,——这种外推根据不足。

学:如果精神不来自物质,那精神的起源是什么?

李:自然规律是否存在?它们是物质的吗?是由物质构成的、产生的吗?可见,即便对唯物论来说,客观存在也未必都是物质的。按量子力学按哥本哈根的标准解释,量子与随机变量并无差别:观察前它被随机变量的概率描述完全把握和刻画,而一经观察它就神奇地“崩坍”为一个物理性态明确具体的“粒子”,这完全对应于概率论说随机变量“实现”为一个具体数值。观察神奇地把“规律”(一种存在)瞬时转化成了“物质”(另一种存在)?观察前,量子像随机变量一样具有多种“可能”,这种存在是一种“数学性”或称“规律性”,但它是否有“物质性”?薛定谔之猫等悖论都根植于此。现代物理学越来越以数学体系(名曰“物理”规律)来指代、指认微观“物质”,与客观唯心论很近。这在海森伯等人的观念中十分明显。

  一般认为,宇宙说到底是由最基本的东西组成,权且称之为“始基”。请问:有几种始基?如果只有一种,那世界何以如此五彩缤纷?只靠个数不同的组合吗?如果有多种始基,这些始基何以不同?按还原论思想,它们应该有不同的内部组成或结构。但既然它们是最基本的,怎么还会有更基本的内部组成或结构呢?这不自相矛盾吗?可见不能再问始基的内部结构。如果有人坚持说只有一种始基,它是精神的,或者说有多种始基,其中包括精神的始基,它们没有内部结构,所以始终存在,没有起源。这是他的信念,谁又有什么令人信服的办法来证伪驳斥?

  关键是,从某些不同的最基本立足点,都足以构建各自的体系,都能自圆其说,只是自然程度、复杂程度、与心相合程度等有所不同而已。宗教就是鲜活的例子。只要都坚信各自最基本的立足点,一方根本无法靠论证来说服对方,让对方改宗。


______________________________

1. William James: Consciousness, then, does not appear to itself chopped up in bits. …it flows. A “river” or a “stream” are [sic] the metaphors by which it is most naturally described.

2. Marvin Minsky likens intelligence to the concept “unexplored regions of Africa”: it disappears as soon as we discover it. 


正在出的博文系列:

与师生谈人工智能:

1.智乎哉?           2. 奢求精确之误        3.精确定义之病    4.图灵测试    5.强人工智能

 

与师生谈现代化之弊

1:崛起的代价     2:发展必好无疑?    3:发展的恶果     4:科技进步果真进步?         5:科技的罪责 

6:开发进步善哉恶哉?7:现代化恶果之因    8:现代化恶果之因2  9:资本主义与个人主义   10:资本主义的修正与回潮

11:全球化的好歹   12:全球化的好歹     13:西化、现代化、全球化 14:现代化的本质      15:文化全球化?

16:妈的奶贼腥        17:多元优越             18:四大主义      19:“化私为公”的隐形手   20: 进步的魔咒

21:进步的陷阱    22:进步的后果       23.成功的反噬     24:进步的残酷                  25: 进步到恶神末日

26:自造成恶神

 

与师生漫谈科研文化

1:我有科研之才吗?  2:我该做科研吗? 3:逻辑推理的作用 4:人生价值     5:生命的延续           

 

已出博文系列:

与师生谈科学之弊

1:线式因果思维1      2:线式因果思维2     3:线式因果思维3         4:螺环之奇妙                 5:幻化的因果 

6:不牢靠的因果推理        7:分析还原病       8:还原论教条                    9:基因未必基因      10:割根裂本

11:强拆硬分        12:科学的领地       13:科学的致命伤         14:科学的致命伤2           15:逻辑之可错

16:逻辑可错之源       17:“脚踏实地”的逻辑?18:逻辑:真理焉?宗教焉?       19:想不清原理       20:想不清原理2

21:逻辑教的改革    22:逻辑教的改革2     23:精确性的终结         24:科学哲学                  25:务外逐物 

26:科学六弊                 27:科学之弊总结

 

与师生谈科研选题:
1:科研的战略、战术和战斗力 2:选题三准则:趋喜避厌 3:选题三准则:如何培养兴趣 4:选题三准则:择重舍轻,扬长避短

5:得题之关键           6:如何应对新潮      7:选题四建议          8:总结:选题好比找对象

 

与师生谈研究策略:

1:科研四要素    2:突出重围的法   3:人人信之而善忘的黄金法则  4:孤胆方是英雄,独创才有真才  5:大道至简,科学之魄

6:弃繁就简     7:以特制胜      8:综括               9:反行众道,改形换状       10:迷雾中的灯

11:技穷时的上策 12:驾驭时间之术1  13:驾驭时间之术2     14:保质增产之法          15:类比、联想、猜测、推证 

16:评估       17:总结与回顾

 

与师生谈学习门径:

1:广度与深度      2:增加深度的窍门1    3:增加深度的窍门2      4:增加深度的窍门3  5:增加深度的窍门4

6:增加深度的窍门5  7:增加深度的窍门6        8:如何培养直觉和想象力? 9:基础不好,死路一条?10:阅读策略1

11:阅读策略2      12:博览之术           13:增强记忆1          14:增强记忆2      15:如何听讲 

16:最佳捷径

 

与师生谈科研输出:

1:论文写作五要点 2:论文的结构、条理和语言 3:标题、摘要、引言、结论  4:作学术报告四建议  5:与编审人员打交道

 

与师生谈科研道德:

1:何谓弄虚作假              2:何谓剽窃?             3:何谓自我剽窃?               4:版权

5:谁该当作者?              6:署名顺序怎么定?        7:其他学术不当行为              8:总结







https://blog.sciencenet.cn/blog-687793-1297728.html

上一篇:与师生谈人工智能4:图灵测试
下一篇:与师生谈人工智能6:能而欠智
收藏 IP: 174.67.139.*| 热度|

6 许培扬 焦飞 李剑超 朱豫才 黄永义 张鹰

该博文允许注册用户评论 请点击登录 评论 (2 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-3-19 10:59

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部