前言：本文2019年9月在新京报智库发布，主要阐述了互联网不断进化，人工智能迎来一波新浪潮。互联网会变成天网吗？如果出现风险，它的风险点在哪里？

文 |刘锋

《终结者》电影中，人工智能发生突变，控制互联网形成”天网”并开始摧毁世界。另一部著名科幻电影《黑客帝国》则讲述了一名年轻的网络黑客尼奥发现看似正常的现实世界实际上是由一个名为“矩阵”的超级人工智能系统设计和控制，这个超级版的”天网“不但控制了机器人，也控制了人类，让人类大脑相连，生活在一个虚拟的但看似真实的世界里。

▲《黑客帝国》海报

科幻预言的实现，崛起的超级智能

关于互联网进化为“天网”的题材被很多科幻小说和电影题材以不同方式表现出来，成为人类一直挥之不去的梦魇。

科幻作品的意义在于可以跳过科技进步的天堑，直达可能的未来世界，如今人类兴奋于人工智能的兴起，恐慌于人工智能是否超越人类时，一个更为庞大和令人惊叹的超级智能正在崛起，科幻成真的现实逐步到来。

人类群体智慧以云群体智能的形式成为了互联网的“右大脑”，设备的机器智能以云机器智能的形式形成了互联网“左大脑”。作为基于互联网大脑架构形成的超级智能，它的未来会不会真的演变成“天网”、“矩阵”？这是一个值得思考和警惕的问题。

▲图片来源：视觉中国

互联网大脑能否演变为“天网”？

如果我们仔细观察一下互联网大脑的构成和运转情况，就可以看出关键风险点主要集中在一个地方，“不断发育成熟的互联网运动神经系统”。

回想一下互联网的发展历程，在1969年到1990年的21年中，互联网主要连接了科研机构、军事机构和政府机构的计算机，人类通过互联网进行科技军事政治的信息分享与资料保存，这时的互联网对现实世界的影响还很小。

1990年到2010年的20年中，随着万维网的确立，新闻、电子商务、社交网络、博客、音乐、游戏等互联网应用蓬勃发展，数十亿的人被连接到互联网上。这时的互联网对人类依然没有值得警惕的危险性。

但变化还是在悄然发生，随着互联网线路的不断升级，传输速率加快，21世纪以来，越来越多的摄像头、声音传感器、温度传感器，湿度传感器被链接到互联网上，互联网已经开始从虚拟世界的建设迈向与现实世界的关联上。不过这时的互联网对于现实世界依然是安静和安全的。

危险的苗头在2012年以后逐步显现，随着工业4.0、工业互联网、无人汽车、3D打印、智能制造的兴起，无数的智能汽车、无人机、工业机器人、家庭服务机器人、办公设备被连入到互联网上，互联网大脑的运动神经系统开始加速发育了。

▲图片来源：视觉中国

还记得《速度与激情8》中黑客通过互联网控制数百台无人汽车追逐并试图杀害外交官吗？这已经不再是科幻的想象。

英国《泰晤士报》2009年12月18日报道，伊斯兰武装分子使用廉价的网上黑客软件，成功侵入美国中央情报局(CIA)的“捕食者”无人机攻击系统。

尽管武装分子目前仍无法使用黑客软件远程遥控“捕食者”无人机，但他们却可以观看无人机传给美国控制中心的实时监控画面。这个案例突出显示了互联网运动神经系统未来的安全风险问题。

▲《速度与激情8》海报

互联网大脑的安全风险

从广义上说，任何链接到互联网上可以移动或对现实世界进行改造的设备都可看做是互联网大脑的运动神经系统，当这个系统出现问题时，可以产生出无数令人不寒而栗的场景。

例如水库的大坝闸门因为控制程序浮点数溢出，突然将闸门保持关闭改为迅速提升，从而导致大坝突然放水，造成下游重大水灾；还有就是被互联网云端控制的数千台机器人由于控制它们的互联网云端AI程序出现BUG,导致混乱的运动和操作，对周围的工人造成伤害。

更为严重的是，联网的核武器被远程的黑客控制或由于自身的程序错误，发生科幻小说里“天网”做出发射攻击行为。虽然这个事故不像“天网”那样，是AI产生敌对意识导致，但其后果和影响是一样的。

▲图片来源：视觉中国

因此可以看出在今天的现实世界，互联网大脑产生威胁人类安全的风险点，主要发生在互联网运动神经系统的运行过程中，有两种风险产生情况。

第一种是云机器智能中的AI程序特别是AI巨型神经元程序出现BUG，导致的重大事故。上面谈到大坝突然防水、工业机器人失控、核武器发射都属于这一类。

第二种是黑客、野心家或者是没有受过专业训练的操作者对互联网运动神经系统进行操作导致的重大灾难，这是一种更为常见和更为严重的类型，包括我们前面提到的黑客攻击医院的医疗设备、敌方人员接管无人机、智能机器人、航空器材等等。

对于这一类风险，如何区分哪些是破坏分子的角色，哪些是正常操作，在监控和防范上要更为复杂和困难。阻止敌对力量、破坏力量对互联网运动系统的侵入和使用，将是人类未来持续博弈的过程。

▲图片来源：视觉中国

互联网大脑进化，人类参与和控制不可或缺

应该说这一轮的人工智能热潮本质上依然是互联网进化过程中的又一次波浪式高潮。它的产生离不开互联网之前应用和技术为人工智能新爆发奠定的基础。

不过这一次人工智能浪潮具有与以往不同的特点，人工智能和机器人不再是一个个单独的个体，而是通过与互联网的大数据、社交网络、云计算结合，形成了互联网的大脑模型。

这个类大脑架构不但拥有更为丰富的知识，更为强大的计算能力；而且还深入到人类生活的方方面面，譬如路边的摄像头、家庭的服务机器人、每日陪伴我们的手机等。

面对这个庞大的超级智能，单个的人产生了巨大的压力感和无力感，也许这是今天人们担心互联网变成天网，人工智能超越甚至控制人类的根本原因。

从互联网大脑模型的形成可以看出互联网进化的动力源泉主要来自人类的群体智慧和机器的云端智慧，与“天网”、“黑客帝国”不同的是，离开了人的参与，互联网的左大脑-机器云端智慧并不具备独立的智慧和进化能力，它将会逐步枯萎。

而互联网的右大脑-人类群体智慧是驱动互联网前进的核心动力。人保持自己的主动性和能动性，是互联网大脑的关键组成部分，而不是受控于互联网大脑的奴隶。

互联网虽然在形态上形成类脑巨系统结构，但它依然是人类参与和控制的系统，它就是人类自己的延伸，是人类社会的一部分，因此，科幻电影中”天网”、“矩阵”、“奥创”与人类的对抗，在现实中归根结底依然是人类之间的斗争。