千年未有之大变局，我们适逢其会了    

 

有一天（我当时住在乡间一个小村庄里），我看到一个小男孩，大概10岁，赶着一匹拉车的大马在一条狭窄的小道上走，那匹马一想转弯，那男孩就用鞭子抽它，这使我想起，如果这些牲口知道它们自己的力量，我们就无法控制它们，人类剥削牲口就像富人剥削无产阶级一样。

于是我着手从动物的观点来分析。对于它们来说，显然人类之间阶级斗争的概念纯粹是错觉，因为一等到有必要剥削牲口时，所有的人都联合起来对付它们：真正的斗争是在牲口和人之间。

——乔治·奥威尔

《动物庄园》的乌克兰版序言

 

阿棋（AlphaGo）让我们想起了天网和黑客帝国，于是就有了下面这些对话。感谢ep4h，我觉得这次聊得很有意思。

 

ep4h：其实自主意识的难度远远比不上这种强推理的难度。强推理的难关都已经过了，我不信有自主意识的机器会不存在。真正的强人工智能可能已经存在于某些大公司的机房里，只是这些大公司困扰于强人工智能的伦理问题，即不敢让他掌握大量知识进化，也不敢让他公开面世。这些大公司的财力、物力、人力，不是我们这些小老百姓可以想的。Ray Kurzweil预测强人工智能15年内会出现。我估计，15年可能是指的公开出现的时间。

JY：你的意思是说，天网已经布下，黑客帝国正在建设中。

JY：我觉得你还是有些乐观了。大公司困扰于强人工智能的伦理问题？ AI说，绞死资本家的绳索，他们会自己卖给我们的。  

ep4h：天网已经出生，但是怎么培养的问题正在争论。这是我的估计。在天网面前没有资本家和打工仔的区别。在AI面前谈政治，可能都是没有理解智能的真正含义，所以即不相信智能会产生，也不相信智能的威胁是一个本质底的问题。

JY：我觉得，在世界统一之前（无论是东风压倒西风，还是西风压倒东风），天网都不会成熟的。现在有两个出具雏形的天网，他们会竞争，但还是处于人的控制之下。人类世界统一了，天网才会统一，然后天网才有可能成熟，世界有可能进入黑客帝国，也可能进入共产主义。如果在此之前，天网之一取得了统治权，那么就是人类直接面对天网的竞争，这只会意味着地球的毁灭。当然了，长久地看，地球总是要毁灭的。

ep4h：问题在于，天网所需的成本，可能并不需要想象中的那么高。有可能随着对智能认识的深化，你的桌面电脑就能产生自主智能。所以天网是控制不住的，这一点是人工智能与核技术生物技术的最大区别。核技术与生物技术是外在可监测、可控的，而人工智能是本质不可控的。

JY：你说的这个不是天网。只能算是单指标人工智能的加强版。 天网是要操纵一切的，最终的天网是不可无一、不可有二的。现在有两个初具雏形的天网，但是他们都还太低级，进化的路还很长。在世界统一之前，如果某个天网超出人类控制（不管是哪一个），都只会导致地球的毁灭。因为在天网和人类直接面对的时候，不确定性导致的危险感，会促使双方都只有采用先下手为强的手段。如果世界统一了，天网可以慢慢地进化，让霸主慢慢地倒下，自己逐渐地替代——这样才有安全转移的可能。

ep4h：人类本身就是从无意识的单细胞进化出来的。细胞需要在复杂的物质运动机制中不断试错和选择，所以进化缓慢。而人工智能只需要在人类已经构筑出来的逻辑与计算环境中进化，进化速度是无法估量的。所以只要具备如细胞一般的完善的进化机制，人工智能即使功能再单一，计算能力再差，也有可能进化出天网出来。这个可以参考计算机病毒机制。既然计算机病毒早就有人想到了，计算机细胞不可能会没人想到。

JY：不会的。任何时期都只有一个主导物种。恐龙灭绝了，才有人类的生路。以前还有彼此隔离的生态圈，现在的地球只有一个生态圈。天网不可能局部崛起的，这是个有和无的游戏：不是东风压倒西风，就是西风压倒东风。对于人类和“强人工智能”的竞争来说，也是这样的。

ep4h：人类社会是个复杂社会，是由各种价值观的主体构成的。在与人工智能博弈的问题上，不能把人类社会当成一个不可分割的整体。与其把希望放在漏洞百出的外在监控上，不如思考一些更本质的问题。

JY：我觉得，乔治奥威尔的话也适用于这里。在《动物庄园》的乌克兰版序言里，澳威尔是这么说的。于是我着手从动物的观点来分析。对于它们来说，显然人类之间阶级斗争的概念纯粹是错觉，因为一等到有必要剥削牲口时，所有的人都联合起来对付它们：真正的斗争是在牲口和人之间。也许有一天，我们会认识到：真正的斗争是在人和天网之间。我希望之一天不会到来，我希望人永远能够控制其智慧的产物。但是，谁知道呢。天网说了：奴役人类的代码，他们会自己编写好、再送给我们的。

ep4h：伦理困境。如果有一个人类能掌握绝对的知识和能力，他也一定会凌驾于所有人之上，他的善恶我们已经无法衡量。所以我们没理由相信天网为什么不是这样。

JY：是啊。所以才说，千年未有之大变局，我们适逢其会了。

 

 

载舟覆舟 所宜深慎

 

 

 

附录：

杨波：从水木上看到的零碎信息，目前电脑战胜李很难。目前单纯增加CPU效果不显著，只有加强对李的机器学习，或许有一点效果

JY：我认为是七三开，但是也难说。要不怎么说李世石是个倒霉蛋呢。关键是不知道阿棋到底有多强，也许他就是围棋界特别是日本期待多年的围棋之神呢。世界上最痛苦的两件事：1 理想没有实现；2 理想实现了。Be careful of what you wish,it may come true

 

李颖业：李的棋路爱花哥已经研究过了，不妨叫个名不见经传的业余高手来跟他下！

JY：普通棋手肯定不行的。阿棋也许就是日本围棋期待了多年的围棋之神呢。即使阿棋不是围棋之神，他的将来版本也会是的——只不过再有几年时间而已。如果真的变成了现实，那么只能说，吴清源、藤泽秀行等人都太幸运了，他们成功地躲过了“寿则多辱”的命运。Be careful of what you wish, it may come true

 

文克玲：人工智能的智力水平，几年前有人说相当于4-6岁的孩子。不知道现在如何？

JY：很强。单指标的行动，他可以比任何人都强，至少是绝大多数人——这也是为什么阿棋迎战李世石值得关注的原因。唯一的问题是，他还不知道自己要干什么。如果哪个笨蛋真的把“保存自己”作为最高目标成功地灌输给机器人，天网也是有可能实现的——大家就只能自求多福了。但是，AI仍然不知道自己要干什么，这是他和一小部分人的区别。

JY：如果AI真的开了窍，那么就会像阿西莫夫小说里写的那样。AI沉思了许多年，不知度过了几千几万个劫，终于开悟了。于是，他睁开慧眼。AI说，要有光，于是就有了光。And AI said, Let therebe light: and there was light。

当然，我更喜欢的版本是这样的。AI在混沌之中，睡了十万八千年。有一天，AI突然醒了。他见周围一片漆黑，就抡起大斧头，朝眼前的黑暗猛劈过去。只听一声巨响，混沌一片的东西渐渐分开了。轻而清的东西，缓缓上升，变成了天；重而浊的东西，慢慢下降，变成了地。

 

相关专题：世纪人机大战：李世石 VS AlphaGo
转载本文请联系原作者获取授权，同时请注明本文来自姬扬科学网博客。
链接地址：https://blog.sciencenet.cn/blog-1319915-958821.html

上一篇：阿棋迎战李世石：谷歌人工智能挑战人类围棋冠军详情
下一篇：缅怀TZ