每一种智能系统都像是白痴天才

■武夷山

（发表于《中国科学报》2019年3月8日）

2019年2月，企鹅出版社出版了著名科学文化人John Brockman（约翰·布罗克曼）主编的著作Possible Minds：Twenty-Five Ways of Looking at AI（作者翻译为“可能的心智：看待人工智能的25种方式”）。所谓25种方式，是说本书展现了25位著名学者对人工智能的看法。

布罗克曼是科学文化网站Edge（边缘网）的创办人，也是科学文化类著作的出版商。他本人主编或撰写过不少科学文化和科普著作，如2018年初，他撰写出版了This Idea Is Brilliant: Lost, Overlooked, and Underappreciated Scientific Concepts Everyone Should Know（作者翻译为“这个想法真棒：每人都应该了解的一些消亡了的、被忽视的和未被充分珍视的科学概念”）。他的著作已有不少中译本，包括《思维》（浙江人民出版社，2018）、《那些让你更聪明的科学新概念》（浙江人民出版社，2017），科学网博主李泳翻译的《未来50年》（湖南科学技术出版社，2004），等等。现有译著一般将Brockman译为“布洛克曼”，但我觉得四个去声字连读实在不好听，建议译为“布罗克曼”。

从20世纪90年代起，布罗克曼每年邀请一些杰出思想家（包括科学家、哲学家、艺术家等）共同探讨重大问题，并将讨论文字结集出版。由于他在科学文化圈和出版圈的影响力，学界名流一般不会拒绝他的邀请。《可能的心智》也属于这样的集子。布罗克曼主编的这类集子，一般每篇文章的篇幅不长，而本书的每一篇文章有7到15页，这样，全书达到320页，算是鸿篇巨制了。

本书多数文章的作者都对控制论的创始人诺伯特·维纳（1894—1964）表示极大的敬意。维纳发表于1950年的The Human Use of Human Beings（中译本《人有人的用处》于1978年由商务印书馆出版，我年轻时认真读过此书，留下了深刻的印象）指出，日益发达的技术对于改进人类福利至关重要，而技术应用的主要风险在于，有权势者可能将新技术用作压迫工具。当然，在维纳那个时代尚未发生数字革命，维纳不可能预料到，目前的技术风险主要来自人工智能（AI）自身，而不是来自恶人。

在本书中，有些学者对AI的态度较为悲观谨慎，有些则非常乐观。前者如Max Tegmark（麻省理工学院物理学终身教授、未来生命研究所的创始人）、Frank Wilczek （2004年诺贝尔物理学奖得主）和Stuart Russell（美国加州大学伯克利分校计算机科学教授，AI领域的大牛之一），他们都担心，超级智能机器像人类一样具有自我保护的本能，会关心自身的利益，那么就可能突破人类对AI规定的“不许做”的禁区。

乐观派包括Steven Pinker（史蒂芬·平克，加拿大著名认知心理学家和科普作家）和David Deutsch（以色列出生的美国物理学家，我曾经在2014年11月14日的《中国科学报》发表对其著作的中译本《无穷的开始：世界进步的本源》的看法）等，他们强调说，计算机能力的巨大进步是更快的芯片和更大的数据之必然产物。每一种智能系统都像是白痴天才，对于未让其解决的任务，系统是个白痴；对于让其完成的任务，系统就是天才。因此，不必担心AI越轨。本书的其他文章作者包括George Dyson（美国科技史学者，著名物理学家弗里曼·戴森的儿子）、Alison Gopnik （她是美国加州大学伯克利分校心理学教授，也是该校哲学系客座教授）、Daniel Dennett（美国塔夫茨大学哲学教授与认知科学研究中心主任）等。

“AI是福还是祸”这个问题，不会有简单明了的答案。但对于任何关心技术进步与人类命运之关系的读者，本书都不会让您失望。

《中国科学报》 (2019-03-08 第7版 书评)