姬扬的个人博客分享 http://blog.sciencenet.cn/u/jiyang1971

博文

从阿棋(AlphaGo)聊到了天网

已有 3604 次阅读 2016-2-26 17:32 |个人分类:个人看法|系统分类:人文社科

 

千年未有之大变局,我们适逢其会了    

 

有一天(我当时住在乡间一个小村庄里),我看到一个小男孩,大概10岁,赶着一匹拉车的大马在一条狭窄的小道上走,那匹马一想转弯,那男孩就用鞭子抽它,这使我想起,如果这些牲口知道它们自己的力量,我们就无法控制它们,人类剥削牲口就像富人剥削无产阶级一样。

于是我着手从动物的观点来分析。对于它们来说,显然人类之间阶级斗争的概念纯粹是错觉,因为一等到有必要剥削牲口时,所有的人都联合起来对付它们:真正的斗争是在牲口和人之间。

——乔治·奥威尔

《动物庄园》的乌克兰版序言

 

阿棋(AlphaGo)让我们想起了天网和黑客帝国,于是就有了下面这些对话。感谢ep4h,我觉得这次聊得很有意思。

 

ep4h:其实自主意识的难度远远比不上这种强推理的难度。强推理的难关都已经过了,我不信有自主意识的机器会不存在。真正的强人工智能可能已经存在于某些大公司的机房里,只是这些大公司困扰于强人工智能的伦理问题,即不敢让他掌握大量知识进化,也不敢让他公开面世。这些大公司的财力、物力、人力,不是我们这些小老百姓可以想的。Ray Kurzweil预测强人工智能15年内会出现。我估计,15年可能是指的公开出现的时间。

JY:你的意思是说,天网已经布下,黑客帝国正在建设中。

JY:我觉得你还是有些乐观了。大公司困扰于强人工智能的伦理问题? AI说,绞死资本家的绳索,他们会自己卖给我们的。  

ep4h:天网已经出生,但是怎么培养的问题正在争论。这是我的估计。在天网面前没有资本家和打工仔的区别。在AI面前谈政治,可能都是没有理解智能的真正含义,所以即不相信智能会产生,也不相信智能的威胁是一个本质底的问题。

JY:我觉得,在世界统一之前(无论是东风压倒西风,还是西风压倒东风),天网都不会成熟的。现在有两个出具雏形的天网,他们会竞争,但还是处于人的控制之下。人类世界统一了,天网才会统一,然后天网才有可能成熟,世界有可能进入黑客帝国,也可能进入共产主义。如果在此之前,天网之一取得了统治权,那么就是人类直接面对天网的竞争,这只会意味着地球的毁灭。当然了,长久地看,地球总是要毁灭的。

ep4h:问题在于,天网所需的成本,可能并不需要想象中的那么高。有可能随着对智能认识的深化,你的桌面电脑就能产生自主智能。所以天网是控制不住的,这一点是人工智能与核技术生物技术的最大区别。核技术与生物技术是外在可监测、可控的,而人工智能是本质不可控的。

JY:你说的这个不是天网。只能算是单指标人工智能的加强版。 天网是要操纵一切的,最终的天网是不可无一、不可有二的。现在有两个初具雏形的天网,但是他们都还太低级,进化的路还很长。在世界统一之前,如果某个天网超出人类控制(不管是哪一个),都只会导致地球的毁灭。因为在天网和人类直接面对的时候,不确定性导致的危险感,会促使双方都只有采用先下手为强的手段。如果世界统一了,天网可以慢慢地进化,让霸主慢慢地倒下,自己逐渐地替代——这样才有安全转移的可能。

ep4h:人类本身就是从无意识的单细胞进化出来的。细胞需要在复杂的物质运动机制中不断试错和选择,所以进化缓慢。而人工智能只需要在人类已经构筑出来的逻辑与计算环境中进化,进化速度是无法估量的。所以只要具备如细胞一般的完善的进化机制,人工智能即使功能再单一,计算能力再差,也有可能进化出天网出来。这个可以参考计算机病毒机制。既然计算机病毒早就有人想到了,计算机细胞不可能会没人想到。

JY:不会的。任何时期都只有一个主导物种。恐龙灭绝了,才有人类的生路。以前还有彼此隔离的生态圈,现在的地球只有一个生态圈。天网不可能局部崛起的,这是个有和无的游戏:不是东风压倒西风,就是西风压倒东风。对于人类和“强人工智能”的竞争来说,也是这样的。

ep4h:人类社会是个复杂社会,是由各种价值观的主体构成的。在与人工智能博弈的问题上,不能把人类社会当成一个不可分割的整体。与其把希望放在漏洞百出的外在监控上,不如思考一些更本质的问题。

JY:我觉得,乔治奥威尔的话也适用于这里。在《动物庄园》的乌克兰版序言里,澳威尔是这么说的。于是我着手从动物的观点来分析。对于它们来说,显然人类之间阶级斗争的概念纯粹是错觉,因为一等到有必要剥削牲口时,所有的人都联合起来对付它们:真正的斗争是在牲口和人之间。也许有一天,我们会认识到:真正的斗争是在人和天网之间。我希望之一天不会到来,我希望人永远能够控制其智慧的产物。但是,谁知道呢。天网说了:奴役人类的代码,他们会自己编写好、再送给我们的。

ep4h:伦理困境。如果有一个人类能掌握绝对的知识和能力,他也一定会凌驾于所有人之上,他的善恶我们已经无法衡量。所以我们没理由相信天网为什么不是这样。

JY:是啊。所以才说,千年未有之大变局,我们适逢其会了。

 

 

载舟覆舟 所宜深慎

 

 

 

附录:

杨波:从水木上看到的零碎信息,目前电脑战胜李很难。目前单纯增加CPU效果不显著,只有加强对李的机器学习,或许有一点效果

JY:我认为是七三开,但是也难说。要不怎么说李世石是个倒霉蛋呢。关键是不知道阿棋到底有多强,也许他就是围棋界特别是日本期待多年的围棋之神呢。世界上最痛苦的两件事:1 理想没有实现;2 理想实现了。Be careful of what you wish,it may come true

 

李颖业:李的棋路爱花哥已经研究过了,不妨叫个名不见经传的业余高手来跟他下!

JY:普通棋手肯定不行的。阿棋也许就是日本围棋期待了多年的围棋之神呢。即使阿棋不是围棋之神,他的将来版本也会是的——只不过再有几年时间而已。如果真的变成了现实,那么只能说,吴清源、藤泽秀行等人都太幸运了,他们成功地躲过了“寿则多辱”的命运。Be careful of what you wish, it may come true

 

文克玲:人工智能的智力水平,几年前有人说相当于4-6岁的孩子。不知道现在如何?

JY:很强。单指标的行动,他可以比任何人都强,至少是绝大多数人——这也是为什么阿棋迎战李世石值得关注的原因。唯一的问题是,他还不知道自己要干什么。如果哪个笨蛋真的把“保存自己”作为最高目标成功地灌输给机器人,天网也是有可能实现的——大家就只能自求多福了。但是,AI仍然不知道自己要干什么,这是他和一小部分人的区别。

JY:如果AI真的开了窍,那么就会像阿西莫夫小说里写的那样。AI沉思了许多年,不知度过了几千几万个劫,终于开悟了。于是,他睁开慧眼。AI说,要有光,于是就有了光。And AI said, Let therebe light: and there was light

当然,我更喜欢的版本是这样的。AI在混沌之中,睡了十万八千年。有一天,AI突然醒了。他见周围一片漆黑,就抡起大斧头,朝眼前的黑暗猛劈过去。只听一声巨响,混沌一片的东西渐渐分开了。轻而清的东西,缓缓上升,变成了天;重而浊的东西,慢慢下降,变成了地。

 



世纪人机大战:李世石 VS AlphaGo
http://blog.sciencenet.cn/blog-1319915-958821.html

上一篇:阿棋迎战李世石:谷歌人工智能挑战人类围棋冠军详情
下一篇:缅怀TZ

8 尤明庆 李颖业 王春艳 徐令予 史晓雷 刘洋 焦飞 yangb919

该博文允许注册用户评论 请点击登录 评论 (6 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2020-11-28 17:16

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部