本文是根据我在4月13日，中国科学院科技战略咨询研究院与腾讯研究院在北京联合举办了“2017人工智能：技术、伦理与法律研讨会”上的发言内容整理形成。演讲的题目是“人工智能伦理规则制定与生物进化方向的关系”。

本文详细阐述了制定人工智能伦理需要回答的5个问题，提出“生物进化是否有方向“能否达成共识，将是未来制定人工智能（AI）伦理能否形成规范的关键。根据“2017人工智能：技术、伦理与法律研讨会”的演讲整理的研究报告如下：

通俗的说：伦理就是指“人与人以及人与自然的关系和处理这些关系的规则”，人类数千年的文明史，至今我们也没有一个统一的、标准的、明确的伦理体系，仅有一些大部分人承认的大体的原则。对于人工智能带来的伦理冲击，因为伦理问题的不完善和争议而变得更为突出。

泰坦尼克号（RMS Titanic，又称铁达尼号）是一艘奥林匹克级邮轮，于1912年4月处女航时撞上冰山后沉没。泰坦尼克号海难为和平时期死伤人数最惨重的海难之一。船上1500多人丧生。在逃生的过程中究竟哪个群体获得生命优先权。成为逃难过程中面临的重要的问题，美国新泽西州州立大学教授、著名社会学家戴维·波普诺在他的《社会学》一书中这样写道：“……不幸的是救生船不够。尽管很多人(超过1500人)遇难，但乘客注意遵守‘优先救助妇女儿童’的社会规范”，使得英国公众和政府面对这一巨大灾难，“可以找到一些安慰”——统计数据表明，“乘客中69%的妇女和儿童活了下来，而男乘客只有17%得以生还”。

《2012》是一部关于全球毁灭的灾难电影，于2009年11月13日在美国上映。电影讲述了主人公以及世界各国人民挣扎求生的经历，灾难面前，尽现人间百态。电影中当空军一号只能容纳一人登机时，美总统让物理科学家安全离开，自己留下时说到“一个科学家比几十位官员更重要“

火车正在急速行驶，不能急停。而正前方有一分叉路轨， 左边仍在使用， 右边已经停用(但是火车行驶上去.还是安全的) 。有5个小朋友在仍在使用的铁轨上玩，一个小朋友在停用的铁轨上玩。这时火车来了。按照火车原定路线，会驶向左边，撞上5个小朋友。如果驶向右边，只会撞上1个小朋友。假如你是扳道工，你会不会把火车扳向右边？

波士顿动力机器人在搬动箱子时，受到测试科学家的攻击，导致站立不稳摔倒，互联网的视频观众提出抗议，认为侵犯了机器人的权利。

“机器人不得伤害人类；机器人必须服从人类的命令，除非这条命令与第一条原则相矛盾；机器人必须保护自己，除非这种保护与以上两条原则相矛盾。”以上是著名科幻作家、“机器人学之父”阿西莫夫提出的“机器人三原则”，被后世无数的科幻小说及影视作品引用，被人们奉为经典。

在阿西莫夫眼中，机器人只是冷冰冰的机器，是为人类服务的工具。既然是工具，自然也就不需要什么权利，所以当“保护自己”与“不得伤害人类”、“必须服从人类命令”相矛盾的时候，机器人最基本的生存权都可以被毫不犹豫地牺牲。

但是，近年来，在机器人技术快速发展以及与人类关系日益密切的时代背景中，关于机器人权利问题的讨论受到越来越多的关注，学者和公众纷纷参与其中。比如，2006年，英国政府发表一份报告预言未来的一场重大转变，称机器人将来会自我复制、自我提高，甚至会要求权利。受这份报告影响，2008年1月，英国皇家医学会(Royal Society of Medicine)专门召开研讨会，讨论“机器人与权利”的问题。(11)又如，2011年，《工程与技术杂志》(Engineering and Technology Magazine)就机器人是否应该拥有权利展开讨论。

制定AI伦理无法回避的5个问题

1.应该由谁来制定AI伦理

2.站在谁的立场制定AI伦理

3.按照什么原则制定AI伦理

4.AI伦理是供谁来参考使用

5.AI能不能被看做与人类同权的生命体

19世纪中叶，达尔文创立了科学的生物进化学说，以自然选择为核心的达尔文进化论作为人类科学史最伟大的理论之一。统一了生物学的各个学科。达尔文进化论的影响不仅仅局限在生物学领域，也提供了一种全新的世界观、生命观、宇宙观和方法论，对几乎所有的科学和人文领域产生影响。包括人工智能的伦理问题最终也会受达尔文理论的影响。

达尔文的进化论排斥了目的论（这被迈尔赞誉为其伟大的贡献之一），达尔文主张变异是随机的，用比上帝一点也不逊色的“自然”一词来解释其所精心构建的进化理论的核心。但是，达尔文也有其困惑和无奈，他感叹道“这广阔无垠、奇妙无比的宇宙……竟然是盲目的机遇或必然的产物感到非常难于甚至无法理解”(2-谢平. 2014. 生命的起源—进化理论之扬弃与革新.北京：科学出版社)

达尔文进化论认为生物进化并不是从低级到高级的进化，人类并不比其他生物高级，达尔文把生物进化过程设想成一棵不断地生长、分支的大树，现存的所有生物都位于这棵树的某个小分支的顶端，很难说哪一种更高级，在同时存在的生物种类之间作高低级的比较是没有意义的。进化没有预定的方向，进化树不存在一个以人类为顶端的主干，人类只是进化树上一个普普通通的分支。从达尔文进化论的角度看，人并不比老鼠，蚂蚁更为高级，人类并不能代表生物的发展方向。

达尔文进化论关于生命没有方向的观点在新的科技进展下会不会有新的进展和突破。我们下面分别从脑科学，互联网和人工智能的研究进展探讨这个问题。提出脑科学，互联网和人工智能的进展将联合从不同角度展示出生命进化的方向和目标。

虽然生物的表现形式千差万别，但生物的核心-大脑确表现出明显的方向性，从单细胞到人类，大脑越来越复杂，智慧程度越来越高。到达人类这个最高点之后，生物的的进化出现新的形式，人通过互联网联合在一起共同进化。

诺贝尔奖获得者澳大利亚科学家John.C.Eccles在其著作《脑的进化》中就提到“生物的大脑是从鱼的大脑进化到爬行动物的大脑，再进化到哺乳动物的大脑，最后进化到人类的大脑。如果解剖人脑，我们可以清晰的看到类鱼、类爬行动物、类哺乳动物的结构在人脑中泾渭分明。“。

互联网进化论的结论“互联网将向着与人类大脑高度相似的方向进化，它将具备自己的视觉、听觉、触觉、运动神经系统，也会拥有自己的记忆神经系统、中枢神经系统、自主神经系统。

另一方面，人脑至少在数万年以前就已经进化出所有的互联网功能，不断发展的互联网将帮助神经学科学家揭开大脑的秘密。科学实验将证明大脑中也经拥有Google一样的搜索引擎，Facebook一样的SNS系统，IPv4一样的地址编码系统，思科一样的路由系统。。。”

物联网是互联网大脑的感觉神经系统萌芽，云计算是互联网大脑的中枢神经系统萌芽，工业4.0，工业互联网，无人机，智能驾驶，3D本质上是互联网运动神经系统的发育和萌芽，大数据是互联网大脑信息的基础，AI+是互联网智能，智慧和意识产生的基础。

当生物进化到人这个程度之后，人类通过互联网联合在一起共同进化。而这种共同进化的结果是。连接了人类的互联网，在结构上与大脑一步步走向高度相似，在空间上随着人类的扩张不断蔓延，如果有足够的时间，可以预见到在足够时间点后，空间，大脑，和互联网三者将合为一体，进化成为成熟的互联网类脑架构。

达尔文进化论的结论是向前推导的，即生物有共同的祖先，通过自然选择，人这种物种出现了。互联网进化论的结论是向后推导的，认为人通过自己创造的技术和工具互联网向着互联网类脑架构的方向进化。“人“这个要素将互联网的进化和生物的进化连接起来。

标准智能系统的判定标准：任何系统（包括人工智能系统、人类等生命系统），如果符合如下特征，就可以认为这个系统属于标准智能系统。

● 特征1：能通过声音、图像、文字等方式（包括但不限于这三种方式）从外界获取数据、信息和知识的能力。

● 特征2：能够将从外界获取的数据、信息和知识转化为系统掌握的知识。

● 特征3：能根据外界数据、信息和知识所产生的需求，通过运用所掌握的知识进行创新的能力。这些能力包括但不限于联想、创作、猜测、发现规律等，这种能力运用的结果可以形成自身掌握的新知识。

● 特征4：能够通过声音、图像、文字等方式（包括但不仅限于这三种方式）将系统产生的数据、信息和知识反馈给外界或对外界进行改造。

标准智能模型的建立参考了冯·诺伊曼架构。冯·诺伊曼架构由计算器、逻辑控制装置、存储器、输入系统和输出系统五个部分构成。通过对比标准智能模型和冯诺依曼架构的差别能够发现，冯·诺伊曼架构可以补充两个部分。通过这种补充，我们得以将人、机器以及人工智能系统用一个更为明晰的方式表示出来。

第一个补充是创新创造功能，即能够根据已有的知识，发现新的知识元素和新的规律，使之进入到存储器，供计算机和控制器使用，并通过输入/输出系统与外部进行知识交互。第二个补充是能够进行知识共享的外部知识库或云存储器，而冯·诺伊曼架构的外部存储只为单一系统服务。因此，对冯·诺伊曼架构进行扩展，可形成新的架构

进化的方向-智能系统的等级划分

智能系统的第0级系统，其基本特征在理论上存在，但现实中并不存在这样的人工智能系统。

智能系统的第1级系统，其基本特征是无法与人类测试者进行信息交互的系统和物体。

智能系统的第2级系统，其基本特征是能够与人类测试者进行交互，存在控制器和存储器。

智能系统的第3级系统，其基本特征是除具备2级系统的特征外，其控制器、存储器中包含的程序或数据可不联网进行升级或增加

智能系统的第4级系统，其基本特征除了包含3级系统的特征外，最重要的是可以通过网络与其他智能系统共享信息和知识。

智能系统的第5级系统，最基本的特征就是能够创新创造，识别和鉴定创新创造对智能系统的价值，以及将创新创造产生的成果应用在智能系统的发展过程中。

智能系统的第6级系统，最基本的特征就是随着时间的向前推进，并趋向于无穷点时，不断创新创造产生新知识的智能系统其输入输出能力，知识的掌握和运用能力也将趋近于无穷大，

从脑科学，互联网的进化和智能系统等级划分得到的启发结论

脑的进化，互联网的进化，智能系统的智力等级划分都表现出明显的方向性。对于这三个领域，他们的共同点都是承载着生命的知识和智慧，并不断进化和提升。

知识和智慧的提升和进化是生物进化的核心，从知识和智慧的角度判断生物进化的方向和生物的高低等级。

生物种群知识库的膨胀速度是生物进化的焦点，其它生物的知识库停滞，走向死胡同，因此在千万年里没有进一步的变化，在地球的生命圈中也处在越来越低的地位。

人类在进1万年里，在知识和智慧上不断扩展和加速，并因为互联网和人工智能的发明而得到进一步巨大飞跃，从而获得了地球自然竞争的统治地位。

生物进化的方向和目标

生物进化的方向就是不断扩大种群的知识库和改造自然的能力，目标是实现对整个自然（生命圈，宇宙）的全知全能。生物的等级高低根据其拥有的知识库容量和改造世界的能力划分。

进化方向对AI伦理问题的影响和解答

1.应该由谁来制定AI伦理

由拥有知识最丰富，智慧最强大的生物种群制定

2.站在谁的立场制定AI伦理

站在拥有知识最丰富，智慧最强大的生物种群立场

3.按照什么原则制定AI伦理

按照对扩大（制定规则者所在）种群知识和智慧有利的原则制定AI伦理

4.AI伦理首先是供谁来参考使用

供（制定伦理规则的生命）种群的管理者（政府，企业家）、研究者（科学家）、开发者（程序员和产品经理参考

5.AI能不能被看做与人类同权的生命体

AI还不能看做与人类同权的生命体，它分担了人类的部分知识和智慧功能，但在最重要的创造性和评审创造性价值方面无法替代，更为重要的是AI无法确定自己的进化方向和进化目标，也没有正确进化的动力，它的进化动力来源于人类，依然是人类的工具。

泰坦尼克号让妇女和儿童离开，因为他们更多对人类的未来有更大帮助，可以更好的扩大和继承人类的知识和智慧。2012电影中，总统选择死去，而让年轻的地球物理科学科学家生存。因为科学家对于解决人类危机有更多的知识和智慧可以奉献。扳道工困境中，要具体分析哪一边对人类未来的知识和智慧可能的贡献大。

但对于种群利益与个人利益依然需要平衡。伦理的设定如何在种群与个体之间取得平衡，与场景的紧急程度也有关系，譬如在2012电影中人类灭绝那样极端的环境下，和普通的危机程度不强的场景，群体利益和个体利益分配应该有不同。

需要对生物进化方向和目标形成共识，然后制定人工智能（AI）伦理规则才有基础

如果生物进化是否有方向没有共识，制定人工智能（AI）伦理规则会有很多困境，譬如人与动物同等级别，制定规则时如何处理人和动物的关系，没有进化方向，制定人工智能（AI）伦理规则应该优先保护谁也会有问题。不对进化动力和进化目标有确定，人工智能系统与人类的关系也无法处理。

同时情感和意识的本质也与进化的方向和目标有关，譬如高兴，兴奋，快乐往往与生物顺应进化趋势产生的反应有关，悲伤，愤怒，失望也往往与逆反进化趋势产生的反应有关，如果不对进化动力和进化目标有确定，人工智能系统的情感是否是真实情感也无法判断。

需要深入探讨的重要问题

AI的进化动力是科学家，企业家，程序员，产品经理。

人类和生物有方向有目标的进化动力是什么？

能不能把生物的进化动力施加到AI的发展上，如果成功，AI威胁论才有实现的基础，

AI伦理的设定会发生重大改变，如果从理论上证明不能，AI将永远无法全面超越人类

附录1：关于知识和智慧的定义

数据是使用约定俗成的关键词，对客观事物的数量、属性、位置及其相互关系进行抽象表示，以适合在这个领域中用人工或自然的方式进行保存、传递和处理。

信息是具有时效性的有一定含义的，有逻辑的、经过加工处理的、对决策有价值的数据流。

知识就是经过评价审核，然后沉淀到人类知识库并结构化的有价值信息。

智慧是人类基于已有的知识，针对物质世界运动过程中产生的问题根据获得的信息进行分析，对比，演绎找出解决方案的能力。这种能力运用的结果是将信息的有价值部分挖掘出来并使之成为已有知识架构的一部分。

附录2：关于智能系统的等级划分

对于人工智能系统的第0级系统，其基本特征在理论上存在，但现实中并不存在这样的人工智能系统。在扩展的冯·诺伊曼架构延伸出来的分级规则中，可以做一些组合，例如可以信息输入，但不能信息输出；或者可以信息输出，但不能信息输入；或者可以创新创造，但知识库不能增长。对于这些在现实中不能或无法找到对应系统范例的案例，我们将其统一划归到“人工智能系统的第0级系统”，也可以叫“人工智能系统的特异类系统”。

对于人工智能系统的第1级系统，其基本特征是无法与人类测试者进行信息交互。例如有一种被称为泛灵论的思想认为天下万物皆有灵魂或自然精神，一棵树和一块石头都和人类一样，具有同样的价值与权利。当然，这种观点从科学的角度看，只能算作猜想或哲学思考。从“能不能和测试者（人类）进行信息交互”的分级规则看，因为石头等物体不能与人类进行信息交互，也许它内部有知识库，能够创新知识，或者能够与其他石头进行信息交互，但对人类测试者来说则是黑箱，不能让人了解。因此不能与测试者（人类）进行信息交互的物体和系统可以定义为“人工智能系统的第1级系统”，符合第1级分类的范例有石头、木棍、铁块以及水滴等等不能与人类进行信息交互的物体或系统。

对于人工智能系统的第2级系统，其基本特征是能够与人类测试者进行交互，存在控制器和存储器，即冯·诺伊曼架构描述的系统，因此很多家用电器被称作智能家电，如智能冰箱、智能电视、智能微波炉和智能扫地机。这些系统大多有一个特点，即虽然它们内部或多或少有控制程序信息，但一旦出厂，就无法再更新它们的控制程序，不能进行升级，更不会自动地学习或产生新的知识。譬如智能洗衣机，人们按什么键，洗衣机就启动什么功能。从购买到损坏，其功能都不会发生变化（故障除外）。这种系统能够与人类测试者和使用者进行信息交互，符合冯·诺伊曼架构描述的特征，而且它的控制程序或知识库从诞生时起就不再发生变化，这种系统可以定义为“人工智能系统的第2级系统”，范例包括日常见到的扫地机器人、老式的家用电冰箱、空调、洗衣机等等。

对于人工智能系统的第3级系统，其基本特征是除具备2级系统的特征外，其控制器、存储器中包含的程序或数据可不联网进行升级或增加。例如家用电脑和手机是我们常用的智能设备，它们的操作系统往往可以定期升级。例如，电脑的操作系统可从Windows1.0升级到Windows10.0，手机的操作系统可从Android1.0升级到Android5.0，这些设备的内部应用程序也可以根据不同的需要不断更新升级。这样，家用电脑、手机等设备的功能会变得越来越强大，可以应对的场景也越来越多。除了家用电脑，很多家用电器、机器人也都开始留有接口，可以通过外接设备进行系统升级。这一类系统明显比第2级智能系统适应性更强。这种系统能够与人类测试者、使用者进行信息交互，但不能与其他系统通过“云端”进行信息交互，其控制程序或知识库只能接受USB、光盘等外接设备进行程序或信息升级的系统，可以定义为“人工智能系统的第3级系统”，范例包括智能手机、家用电脑、单机版的办公软件等。

对于人工智能系统的第4级系统，其基本特征除了包含3级系统的特征外，最重要的是可以通过网络与其他智能系统共享信息和知识。2011年欧盟资助了一个叫作RoboEarth的项目，该项目旨在让机器人可以通过互联网分享知识。帮助机器人相互学习、共享知识，不仅能够降低成本，还会帮助机器人提高自学能力、适应能力，推动其更快、更大规模地普及。云机器人的这些能力提高了其对复杂环境的适应性。这类系统除了具备3级系统的功能，还多了一个重要的功能，即信息可以通过云端进行共享，因此这种系统能够与人类测试者、使用者进行信息交互，可以通过“云端”进行信息交互，进行程序或信息升级。但这类系统所有的信息都是直接从外部获得，其内部无法自主地、创新创造性地产生新的知识。这种系统可以定义为“人工智能系统的第4级系统”，范例包括谷歌大脑、百度大脑、RoboEarth云机器人、B/S（Browser/Server，浏览器/服务器）架构的网站等。

对于人工智能系统的第5级系统，最基本的特征就是能够创新创造，识别和鉴定创新创造对人类的价值，以及将创新创造产生的成果应用在人类的发展过程中。我们在扩展的冯·诺伊曼架构时，对原来的冯·诺伊曼架构增加了创新知识模块，就是试图把人纳入到扩展的人工智能系统概念中，人类可以看作是大自然构建的特殊“人工智能系统”。与前四个等级不同，人类等生命体最大的特征就是可以不断地创新创造，如发现万有引力、元素周期表，撰写出新小说，创造新的音乐、画作等等，然后通过文章、信件、电报，甚至互联网进行传播和分享。不断地进行创新创造，并能够识别创新创造对自身的用处，这让人类占据了地球生态环境下的智力制高点。因此，这种系统能够与人类测试者使用者进行信息交互，可以创新创造出新的知识，并可以通过文章、信件、电报甚至互联网这样的“云端”进行信息交互，这种系统可以定义为“人工智能系统的第5级系统”。人类是第5级人工智能系统最突出的范例。

对于人工智能系统的第6级系统，最基本的特征就是随着时间的向前推进，并趋向于无穷点时，不断创新创造产生新知识的智能系统其输入输出能力，知识的掌握和运用能力也将趋近于无穷大，按照基督教对于上帝的定义“全知和全能”，可以看出智能系统在不断创新创造和不断积累知识的情况下，在足够的时间里以人类为代表的智能系统将最终实现“全知全能”的状态，从这个角度看，无论是东方文化的”神“，或西方文化中的“上帝”概念，从智能系统发展的角度看，可以看作是智能系统（包括人类）在未来时间点的进化状态。

作者：刘锋 计算机博士，互联网进化论作者