《终结者》5正在热映，趁这个机会再聊聊这个问题。英明神武的人类一直在思考自身终结的问题，其中一个假设就是人类葬送在机器人手里。《终结者》描绘了一幅关于人类未来的悲惨景象，就是人类将来被机器人大量屠杀，被迫组建人类军队抵御机器人的围剿和绝杀。机器人会不会成为人类的威胁？这个问题自人工智能这个概念诞生之日起，就是社会和学界关注的焦点。特别是近十年来，神经网络重回生机，深度学习在图片识别、语音识别、自然语言处理等任务上的表现接近甚至超过人类，于是又引来了不少人的恐慌和忧虑。这其中包括著名的霍金和比尔盖茨。下面分享一下我个人对这个问题的看法。

我认为机器人并没有那么可怕，机器人要灭绝人类也没有那么容易，原因有三。

机器人变坏需要一定的条件，而且需要一定的过程

《终结者》当中描述的当时地球上最智能的机器人（也就是“天网”）从一开始就是以杀人和灭绝人类为目的，搞得人类防不胜防，这是一种很极端的状态，概率其实非常小。随着人工智能的发展，机器人可以产生与人类类似的动机、目的、意识、注意、情感、逻辑、想象等思维活动，机器人的行为会受这些思维活动的直接引导或者间接干预。机器人意识观念情感态度的改变，会受社会整体观念和大环境的影响，如果某一天产生了新奇的想法，也不一定就是仇恨人类，有可能是仇恨狗，仇恨其它机器人，或者讨厌超声波。即便某个机器人某天产生了仇恨人类的想法，但很小概率是最厉害的机器人。机器人也不会一开始或突然仇恨人类，而是存在一个循序渐进、思想观念渐变的过程，这个道理跟人类变坏是类似的。这个过程或快或慢，但只要有先兆，人类就有足够的时间提前预防。

有坏机器人也有好机器人，机器之间能形成制衡

未来机器人进行智能决策的院里和人类是类似的，机器人大脑的逻辑结构也不外乎是神经网络，唯一的区别是机器人的生理基础和人类不一样，机器人是由人工材料组成、电供能、没有衰老但有死亡（因为软件过时，没人更新，性能跟不上就可能被淘汰）。人类当中有好人也有坏人，机器人当中也有好机器人和坏机器人，这个道理不难解释。人类当中的坏人给人类带来的威胁，丝毫不亚于机器人的威胁，但从历史经验来看，正义总能战胜邪恶。我觉得这个道理用到机器人也适合，机器人当中的好机器人必然能形成与坏机器人制衡的力量。何况，人类是站在好机器人一边的，人类和机器人取长补短，相互协作，必然能产生比单独机器人更大的威力。

机器人没有那么神通广大

现在机器人许多单项赛事上已经超过了人类，但在通用智能上离人类差距还有很大距离，机器人要么只会下棋，只会识别图片中的物体，只会知识竞赛，只会开车 或者只会在生产线上操作。以后发展的趋势是，机器人会在更多的单项上超过人类，而且在通用智能上越来越接近人类甚至超过人类的平均水平 （要超过人类当中的天才，需要更长时间，要以一敌百，那更不用说）。《终结者》当中的”天网“机器人要变成影片中描述的那样，与全人类为敌，需要过第一关（观念上要极端仇恨人类，没有恻隐之心），第二关（要有这个能耐，能把自己的观念克隆到其它机器，并迅速建立起一支由机器人组成的军队），听起来要比希特勒还绝。“天网”研制之初只是一个防御体系，专长在于防御，要成为“希特勒”，它得首先把自己训练成无敌黑客，这样它才能够入侵其它机器人的大脑来篡改他们的观念，然后它还得成为政治家、军事家，了解人类军事状况、了解人类动机、发现人类军队防御体系的弱点，制定相应的战争策略，指挥军队作战，再然后它还得把自己变成一个工程师，能研制和生产新的更具战斗力的机器人。好像在《终结者》当中，这三个重要的能力，”天网“都在瞬间得到（要知道，这对于人类，只有人类当中的天才花费毕生时间在反复实践中才能练就）。大家对于人工智能的一个误解是，计算机的速度如此快，机器人学新东西、获取新知识也应该是瞬间的。其实不是，机器人学习新事物、获取新技能新知识的过程也是受计算机运算速度、网速甚至能源的限制，运算速度限制了学习速率，网速限制了获取学习素材（训练样本）的速度，神经网络在训练过程中的耗能也是一个重要限制因素。现在谷歌微软百度训练的图像识别神经网络，使用了由数百台甚至数千台的带GPU的高性能计算机集群，在连续运行一周的情况下，才能训练出一个能识图的神经网络。而且，它们使用的训练数据都是人类提前给收集和标注好的（imageNet）。即便以后计算机运算速度越来越快（使用更好的GPU，或者专用芯片，甚至量子计算机），要让机器人完全凭一己之力获取 前面提到的三大技能之一，所需要的时间 、信息资源和功耗可见一斑，要制定机器人在得到这三个能力之前，这些资源都是人类给它提供的。机器人的学习效率、办事效率都受制于硬件条件和信息资源，就算集结全世界的计算机资源和信息资源来“服务”这个机器人，有些能力在纯虚拟的计算场景下也是获取不到的。

这篇文章的主要告诉大家人工智能其实没有那么可怕。但笔者仍然强调，人类还是有必要保持一颗忧患的心。人工智能技术的广泛应用是不可阻挡的潮流，我们在利用它为人类造福的同时，也应该把更多的精力放在如何更好地控制它、如何更好地让人机和谐相处、互敬互爱。