思想海洋的远航分享 http://blog.sciencenet.cn/u/xying 系统科学与数学水手札记

博文

人类能否理解机器的智能? 精选

已有 11486 次阅读 2016-3-21 07:57 |个人分类:科普|系统分类:科普集锦| 人工智能, 神经网络, 自由意志, 人机大赛

AlphaGo与李世石的围棋大赛让民众对人工智能又关注起来,除了专家看门道,棋迷看妙着外,看热闹的其实就关心:以后愈来愈聪明的机器人会不会骑在我们头上?那歪着脖子能想通宇宙之莫测的霍金,深谋远虑地说,怕这白眼狼养不熟,还是趁早给灭了!

高人长考之深,凡人难追,不过连专司杀人也会毁灭人类的原子弹、生化武器现在都难禁,遑论去阻止已开始渗入生活,让人舒适省心智能服务的研究进步。所以还是想些靠谱的事:到底我们能不能理解机器的智能?能理解就好办,至少会好沟通。

四五十年前,专家系统的AI时代,其实人们早问过这问题。专家们都很淡定:符号主义的机器是按规则行事,其智能不外是在人赋予的知识内逻辑推理,不会有违和之事。机器不管多聪明,一切举动皆在人类可以理解的范围。给机器立规矩,写些最高指示之类就不用担心了。过去科幻谈到机器人的自我觉醒,都要借助于离谱的短路,或者内置上帝的骰子让它便宜行事。这等奇事不用想就知道是没边了,大家娱乐后都安心洗洗睡了。

现在有点不同了,用的是深度学习来训练人工神经网络作为机器大脑,让它自己积累经验,居然打败了围棋九段天才。虽然现在还需要人类帮助构建先天的联接拓扑和指导训练,但不难想象今后具有更快更大容量,能在互联网中攫取数据自学成才,在实践中积累出比人类经验更高的智能。这种联结主义机器的脑子是个黑箱,它是怎么想的,知道些什么,为什么会这样想,我们都无法了解和控制。

有计算机教授对此嗤之以鼻,认为这种“似是而非的议论和评论,是误导,是最误人的”。他在报刊上作为专家,从计算机科学角度已评论过,说这没有所谓的“人机大战”,只有开发团队集人类之智慧,写了程序对李世石的围殴,这比赛胜的不是机器!无奈许多人还很愚顽,认为开发团队教会机器孩子,孩儿打败李世石,赞老师应该的,但怎么不认机器孩儿有智能?他又写篇文章,说程序员清晰地、准确地给出计算过程,没什么不可掌控的。那只是傀儡。

玩神经网络的人辩解说:能掌控个啥呀?联接主义的AI机器,它的功能是由联结参数决定的,这些联结参数不是设计者给的,而是通过对样本(数据)的学习,机器自动调整形成的。你即使拆开硬件,企图分析这具有亿万个联结的数据也无济于事呀!

教授先问说这话的,“是否计算机科学科班出身?是否了解可计算性理论?”他从理论角度高屋建瓴地再问:“一,这所谓的‘联结主义的AI’,最终是否在现代通用电子数字计算机上执行才能获得结果?二,你所谓的‘样本数据’,是集合论意义上有穷的还是无穷的?”

这是哪跟哪呀!一般人估计听了可能会懵圈,我帮助解读一下吧。他意思说:有限的(样本)数据在与图灵机等价的现在计算机上,学习只能产出有限的确定性的结果。我们开发团队,编程序,知道训练过程和样本,那么理论上也知道了训练后机器所有的权重参数。机器与人博弈,机器的功能是具有这些参数的确定函数,理论上也是确定的。所以理论上我们能够了解机器的表现,所以别给我谈什么黑箱,无法理解之类的,那是没文化!

他觉得了然于胸的是,要让机器具有人类不能理解,鬼神莫测的智能,在机器里至少得有个“上帝的骰子”来玩随机。所以写的文章题目叫《现代通用电子数字计算机掷不出“上帝的骰子”》,在那里掷地有声地告诉大家:“计算机科学中的一个基本常识是程序产生不出真正的随机数,掷不出!”

大家无语了,这玩计算机的都知道呀!随机函数程序产生的都是伪随机数,理论上是一个确定函数的值。人工神经网络机器的功能也是如此,这又怎么啦?

对于机器,就算你知道所有的参数和那个代表着它输出功能的函数,它与你对奕时,你下一招,理论上确能算出它的对招。可是那函数里有至少几亿个参数哎,让你长考一小时,你算得过来吗?与它过招时,你,包括开发团队知道它具体怎么应对?能够预测出它下的招吗?

你可能说,至少理论上是如此吧。这思想叫机械决定论,早被扔进历史垃圾堆里去了。依这说法,人也是机器,因为人是有限的物质构成的,一切运行皆有规律,理论上他的一切行为都是确定的。掷骰子,实际上也不能产生随机结果,因为理论上知道了骰子的物理性质,初始条件,掷的力,按力学定律就能算出哪个面朝上。充分了解,假以时间,一切都算得出来。

只不过简单的三体运动,就让这决定论的说道,在现实中毫无意义。按力学知识,我们知道三体是怎么运动的,能精确地列出运动方程,理论上我们可以准确知道它们的轨迹,但实际上难以计算,也没有意义这样算。因为稍有微扰,结果面目全非。神经网络学习形成参数也是如此。这类理论上确定实践上难以确定的现象叫混沌(Chaos)。人之所以表现出有“自由意志”是它在大脑的功效。联结主义AI也是如此,它是一个在我们掌控能力之外的功能。在实践上我们对它的行为难以确定,不受控制。

有人问:机器学习输入人类经验的样本,AI机器不就是根据问题,搜索这些经验库推理回答,这跟符号主义的专家系统有什么不同?这是不明白什么是联结主义机器的学习,这儿不是像符号主义AI那种搜索经验、推理回答。神经网络在学习中,自行消化样本,从中抽象出相似的模式,化成联结的参数,在应用阶段是由这些参数确定的函数,表现出模式识别的功能来回答问题。它与动物的本能相似,是按联想方式工作的。所以它能产生“直觉”,得出样本之外的新知识。这在80年代的神经网络复兴的研究中,被称为从样本中“涌现”出来性质,神经网络拥有的是这样的智能。符号主义的智能,不能得出输入知识库逻辑之外的新知识,如果库中有不相容的知识,那结果就乱套了。而神经网络的学习,少量的样本,联想很丰富,比较“想当然”,更多正确的样本,加强了正确的识别,纠正了少数可能错误的样本,结果就越精准。就像人类经验越丰富就越少出错。机器能够吸收积累比人多得多的经验,“瞑想”也快得多。

这么说,对高智能的联结主义机器,如同老贼近乎妖,我们就不能理解了?

那也未必。只不过我们难以用理性来分析。

人脑中有150-200亿个神经元,每个神经元有几千个联结。2015年谷歌最大的人工神经网络有112亿个参数,世界最高Digital Reasoning的有160亿,数量与人脑相比还差几千倍。实现的只是人类智力的某项功能,离综合智能还很远。生物在复杂的环境变化,残酷的竞争压力下进化,没有一定正确的方向,没有必胜的策略,也没有涵盖一切无往不胜的智能。就像万物之灵的人类不如动物对灾难敏感,蟑螂老鼠对环境比人更能适应。它们都有人类所不及的某种智能。人类也有许多不同于理性思维的感性智能。在生存竞争的这个大棋局中,有限可调参数的智能个体或群体,注定无法涵盖近乎无限的博弈变数。所以只有在某方面相较的特长和聪慧,没有在一切都是优越的智能。霍金不是也受保健护士控制,爱因斯坦引以自豪的小提琴拉得也不怎么样,在赌场大杀四方记忆超强的雨人被平庸的哥哥带得团团转。有些专家学有所长,但常人一听都懂的含义,却闹不明白,喋喋不休,缺的是理解语言交流常识的智能。

几个高智商的理工男在争论,心中的女神钟意于谁?从家境,成绩,性格,人品,志向,兴趣爱好罗列了一系列条件,按柏拉图、弗洛伊德到马斯洛各种理论,分析推理,无不显现客观和严谨的高超理性,仍然得不出结果。路过一个美眉,听后笑道,“有没有情意怎么会不知道?俺们文科的从来不推理,俺们直接看眼神。”

也许对超级聪明的机器人,也没那么难懂。只是我们必须学会“看眼神”。




世纪人机大战:李世石 VS AlphaGo
https://blog.sciencenet.cn/blog-826653-963808.html

上一篇:智能的进化
下一篇:光影梦幻羚羊谷
收藏 IP: 50.156.25.*| 热度|

24 许培扬 郑小康 黄永义 鲍得海 田云川 蒋永华 杨正瓴 彭思龙 李红雨 王国强 张士伟 徐晓 雷蕴奇 苏德辰 张云 侯沉 xiyouxiyou ep4h xlianggg tuner zjzhaokeqin aliala decipherer yangb919

该博文允许注册用户评论 请点击登录 评论 (57 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-12-23 22:28

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部