[敬请读者注意] 本人保留本文的全部著作权利。如果哪位读者使用本文所描述内容，请务必如实引用并明白注明本文出处。如果本人发现任何人擅自使用本文任何部分内容而不明白注明出处，恕本人在网上广泛公布侵权者姓名。敬请各位读者注意，谢谢！

“机器里的心灵”是什么? 它在哪里？

-- 对 “The mind in the machine: Demis Hassabis on artificial intelligence” 一文的简单批注

程京德

今年4月21日，GoogleDeepMind 的共同创始人， Demis Hassabis，在金融时报(FINACIAL TIMES)上发表文章（The mind in the machine: Demis Hassabis on artificial intelligence, https://www.ft.com/content/048f418c-2487-11e7-a34a-538b4cb30025），论述人工智能。  遗憾的是，通览全文，作者既没有明确地说明所谓“the mind in themachine”究竟是什么，也没有对其存在性给出任何科学根据，似乎仅仅为其公司名称做了个广告。

本文为笔者对该文的简单批注，留作记录。下面的引文，英文引自原文，中文引自JZ发表在新语丝（XYS20170511）上的中文译文（机器里的心灵：戴米斯·哈萨比斯论人工智能， http://www.xys.org/xys/ebooks/others/science/dajia18/ai.txt）。考虑到版权问题，本文就不转载原文及译文的全文了。另外，请读者注意，中文译文中有些错译。

“Thefounding fathers of the modern computer age — Alan Turing, John von Neumann,Claude Shannon — all understood the central importance of information theory,and today we have come to realise that almost everything can either be thoughtof or expressed in this paradigm. This is most evident in bioinformatics, wherethe genome is effectively a gigantic information coding schema. I believe that,one day, information will come to be viewed as being as fundamental as energyand matter.” “现代计算机时代之父—图灵、纽曼和山能—在那个时代就认识到信息理论的关键重要性，而我们现在意识到几乎所有的东西都可以用信息理论的模型去思考或表达。在生物信息学里这是最明显的，基因组实际上是一个巨大的信息编码程式。我相信有一天，信息将会被当作和能量和物质同样基本的东西。”

首先，阿兰·图灵(AlanTuring)、约翰·冯·诺依曼(John von Neumann)、克劳德·艾尔伍德·香农(Claude Elwood Shannon)这三人，谁也不能被称为“现代计算机时代的创生之父”。其次，信息论的创造者香农另论，图灵和冯·诺依曼未必像作者所说是认识到了“信息论的中心重要性”的，似乎没有史实证明这一点。最后，“almosteverything can either be thought of or expressed in this paradigm，几乎任何事物都可以用信息论来思考或表达”显然是一句过头话。作者举出生物信息学为例，完全没有一般性。信息论在人类社会的众多科学之中绝非是最基础的。

作者的信念，“信息终将在某天会被视为和能量和物质同样基本的东西”，是否正确，依赖于信息的定义。信息是什么？作者所谓“信息”，究竟是“信息”还是“数据”？从科学的观点来看，“信息”的抽象层面是否与“能量”及“物质”的抽象层面相同？

“At itscore, intelligence can be viewed as a process that converts unstructuredinformation into useful and actionable knowledge. The scientific promiseof artificial intelligence (AI), to which I have devoted my life’s work,is that we may be able to synthesise, automate and optimise that process, usingtechnology as a tool to help us acquire rapid new knowledge in fields thatwould remain intractable for humans unaided.” “智能的核心可以看作是把无序的信息转化成有用和可作为的知识一个过程。我一直从事的工作，人工智能，它在科学上的承诺，是我们或许可以去人工合成这个过程，并把它自动化和最优化。使用这个技术，我们将在某些难以捉摸的领域内去更快速的获得新的知识。”

作者认为“智能”的核心是非结构化信息到有用有效知识的转化过程，这是一个很不寻常的操作性定义，这样界定“智能”的范围显然有根本问题。首先，如果“智能”仅仅是人类的特有属性，那么，依据作者的定义，难道人类获取数据、获取信息的过程就不包含“智能”行为？如果“智能”不仅仅是人类的特有属性而是所有动物的属性，那么， 依据作者的定义，难道动物也有知识？也有把非结构化的信息到有用有效知识的能力？其次，关于“知识”，尽管对其最早的哲学讨论至少可以回溯到古希腊柏拉图的对话录之一“泰阿泰德篇(Theaetetus)”，但是如何定义“知识”至今仍然是哲学中的未决问题之一。用“知识”来定义“智能”，岂不是让“智能”之定义也悬而不决？这样的定义方式至少说明作者对哲学和心理学都不是很了解。

作者还认为，人工智能的科学承诺是“我们可以去合成、自动化、和最优化这个过程”。如果“智能”的确如作者之定义，那么作者这里所说的人工智能的科学承诺当然是合理的。从这里也可以看出，作者对“人工”的解释就是“我们可以去合成、自动化、和最优化”。

作者还认为，使用人工智能技术作为工具，可以帮助我们在那些人类难以处置的领域内快速地获得新的知识。这里，作者清晰地阐明了人工智能与人类的关系：人工智能技术是帮助人类的工具。

“theterm AI can mean myriad things depending on the context. The approach we takeat DeepMind, the company I co-founded, focuses on notions of learning andgenerality, with the aim of developing the kind of AI we need for science. Ifwe want computers to discover new knowledge, then we must give them the abilityto truly learn for themselves.” “根据不同的语境，人工智能这个术语有许多不同的内涵。在我共同创立的公司深度思维我们所采取的办法是集中精力在学习和通用性这两点，目的是为了发展出能够做科学研究的这样一种人工智能。如果我们想用计算机来发现新的知识，那么我们必须给予它们真正能够自我学习的能力。”

作者申明，作者所共同创立的公司 DeepMind 的策略是注目于学习和通用性，以开发出“为科学所需的那种人工智能”。 作者认为，“如果我们想用计算机来发现新的知识，那么我们必须给予它们真正能够自学习的能力。”这里，作者非常清晰地阐明了，也是 DeepMind 的另一共同创立者戴密斯·哈萨比斯（DemisHassabis）在多次讲演中提到的， DeepMind 试图以让计算机具备通用的自学习功能的手段，来用计算机来发现新的知识。应该说，这是一个非常美好的愿景，如果能够真正实现的话。笔者本人长期以来一直在做“自动知识发现”的工作，具体的方法论是基于强相关逻辑的自动定理发现，深知“自动知识发现”之难，有兴趣的读者可以参考笔者在科学网上的相关博文。

“Thealgorithms we work on learn how to master tasks directly from raw experience,meaning that the knowledge they acquire is ultimately grounded in some form ofsensory reality rather than in abstract symbols. We further require them to begeneral in the sense that the same system with the same parameters can performwell across a wide range of tasks. Both these tenets were demonstrated inDeepMind’s 2015 Nature paper in which a single program taught itself to playdozens of classic Atari games, with no input other than the pixels on thescreen and the running score. We also use systems-level neuroscience as a keysource of inspiration for new algorithmic and architectural ideas. After all,the brain is the only existence proof we have that a general-purposeexperience-based learning system is even possible.” “我们正在研究的算法会直接地从原始的经历中来学习，也就是说，它们获得的知识最终根植于一些感官事实而不是来自于抽象的符号。而且，我们要求它们具有通用性，意即，具有相同参数的同一套系统能够完成一系列广泛的任务。这两点在我们2015年的自然杂志文章里得到很好的体现，我们描述了一个程序它教会它自己好几十套经典的阿塔里游戏，仅有的输入就是屏幕上的像素还有得分。我们也把系统水平上的神经科学作为鼓舞我们发明新算法和构筑概念之源泉，毕竟，大脑是唯一一个我们已有的证据来证明有这样一个通用的、基于经验的学习系统是可能的。”

作者申明， 他们正在研究如何直接从原始（生鲜）经验中学会工作任务的算法，亦即，它们（工作任务）所获得的知识最终基于某种形式的感官事实而不是抽象符号。按照笔者对此申明的理解，所谓“原始经验”或者“某种形式的感官事实”，就是通过传感器获得的原始数据。但是，作者并没有明确说明“获得的知识”是什么，在系统中是否有其抽象符号表达形式？这一点在本质上非常关键！如果“获得的知识”是某种形式的抽象知识，那么它当然应该是从原始数据中抽象出来的，而所谓“学会工作任务”，就是从原始数据中抽象出知识之过程的自动化，作者及其同事正在研究的便是这种自动化过程的算法了。

作者还申明，他们要求算法具有通用性，亦即，具有相同参数的同一个系统能够交叉完成广泛的工作任务。笔者的直觉是，这是一个极难实现的要求，如果不是不可能的话。

作者还申明，他们的工作以系统水平上的神经科学为基本源泉，依据是人脑是“通用的、基于经验的学习系统是可能的”的唯一存在性证明。因此，从方法论来说，作者们的工作就是以模拟人脑的方式构造出“通用的、基于经验的学习系统”。笔者认为，作者们对人脑的认识究竟是否正确还是一个可以质疑的问题。无论怎么定义“学习”，人脑的思维活动大概也不仅仅是学习就能够说明的。

“Deep Blue’s victory against Kasparovrepresented a major milestone in the history of AI. But its win was more atestament to the brilliance of its team of programmers and grandmasters, aswell as to the computational power of the contemporary hardware, than to anyinherent intelligence in the program itself.” “深蓝打败卡斯帕罗夫标志了人工智能历史上一个重要的里程碑。然而，它的胜利，与其说是深蓝程序本身的内在智能，不如说是证明了程序员和国际象棋大师们的高明，还有现代化硬件的计算能力。”

作者的这段话，说的一点也不错，完全正确。并且，依笔者之见，类似的话，针对作者及其同事们研发的 AlphaGo 也同样可以再说一遍！

“For AlphaGowe realised that in order to capture this intuitive aspect of the game we wouldhave to take an approach radically different from chess programs such as DeepBlue. Rather than hand-coding human expert strategies, we used general-purposetechniques including deep neural networks to build a learning system, andshowed it thousands of strong amateur games to help it develop its ownunderstanding of what reasonable human play looks like. Then we had it playagainst different versions of itself thousands of times, each time learningfrom its mistakes and incrementally improving until it became immensely strong.”“做阿尔法狗我们意识到为了抓住围棋的直觉这个特点我们得采用和深蓝等国际象棋程序完全不同的思路。与其手工编码人类专业棋手的各种策略，我们使用通用目的技术，包括深度神经网络去制作出一个学习系统，然后为它演示几千局高水平的业余选手的比赛棋局去帮助它发展出它自己对人类选手是怎样下围棋的理解。下一步，我们让不同版本的阿尔法狗互相对局，几千局下下来，它的棋力就变得无比强大，因为每一次对局它都能从错误中学习从而不断地循序渐进。”

作者及其同事开发 AlphaGo 的方法，在算法和实现层面当然是与开发 Deep Blue 的方法大不一样的，甚至不一样到很难做比较（当然也有国际象棋与围棋的区别）。但是，从计算的本质上来说，AlphaGo 和 Deep Blue 最终也都是计算机程序，从计算原理（可计算性和计算复杂性）的观点看，两者应该没有什么本质上的不同。那么，从算法层面到计算层面，是否还可以引入另外的一个或多个层面，使得在某个抽象层面上，国际象棋和围棋的区别消失，Deep Blue 的穷极搜索方式与 AlphaGo 的基于大量经验的深层学习方式可以进行比较？

“Moreimportantly, during the games AlphaGo played a handful of highly inventivewinning moves, one of which — move 37 in game two — was so surprising itoverturned hundreds of years of received wisdom and has been intensivelyexamined by players since. In the course of winning, AlphaGo somehow taught theworld completely new knowledge about perhaps the most studied game in history.”“更为重要的是，比赛中，阿尔法狗下出了五六手极为创新的走法，其中一步走法，第2局第37步，是如此的令人吃惊，它打破了几百年来人类下法的定规，一直到现在众多棋手们还在不断研究这一步棋。在赢得比赛的过程中，阿尔法狗不知不觉中地教给了我们全新的知识，这些棋局有可能成为被研究得最多的棋局。”

作者的这句话，“AlphaGosomehow taught the world completely new knowledge， AlphaGo 在某个意义上教给了世界全新的知识”，无论这里的“somehow”作何解释，都太值得商榷了。 AlphaGo 只会采用最优策略去赢棋，它（系统）自己都不“知道”在做什么，棋是怎么赢的，怎么“教给世界全新的知识”？我们的确看到了AlphaGo 下出的惊人之步，但是，包括 AlphaGo 的研发团队在内， AlphaGo 告诉我们那么下的明白理由和明白解释了吗？哪里有什么“全新的知识”？

“Thesemoments of algorithmic inspiration give us a glimpse of why AI could be sobeneficial for science: the possibility of machine-aided scientific discovery.We believe the techniques underpinning AlphaGo are general-purpose and could beapplied to a wide range of other domains, especially those with clear objectivefunctions that can be optimised, and environments that can be accuratelysimulated, allowing for efficient high-speed experimentation.” “这一些人工智能算法历史上鼓舞人心的时刻，让我们窥视到为什么人工智能可以帮助科学研究：在机器帮助下的科学发现是有可能的。我们相信，支撑着阿尔法狗的技术具有目的的通用性，能够用在一系列广泛的场合，特别是那些具有能够被优化的有明确目的性的函数，加上能够被精确模拟的环境，从而允许进行高效高速实验的领域。”

作者表明的信念，尤其是对 AlphaGo 技术有效范围的界定，非常珍贵，因为这是获得成功的围棋程序 AlphaGo 的研发者自身的感受，非常值得我们，至少笔者，认真学习和思考。

“We mustalso continue to be highly cognisant of both the utility and limitations of AIalgorithms. But with rigorous attention to programs’ capabilities, and moreresearch into the effects of the quality of the data we use as inputs and thetransparency of their workings, we may find that AI can play a vital role insupporting all manner of experts by identifying patterns and sources that canescape human eyes alone.” “我们也必须继续高度关注人工智能算法的适用性和有限性。但是，如果我们继续严格关注程序的能力，更多地研究输入数据的质量对结果产生的影响，以及算法运作的透明度，我们就有可能会发现，人工智能可以支持各行各业的专家，帮助他们发现原本难以发现的规律和原因。”

作者的上述认识非常清醒。但是，这里所谓的透明性到底意味着什么，似乎并不清楚。

“It isin this collaboration between people and algorithms that incredible scientificprogress lies over the next few decades. I believe that AI will become a kindof meta-solution for scientists to deploy, enhancing our daily lives andallowing us all to work more quickly and effectively. If we can deploy thesetools broadly and fairly, fostering an environment in which everyone canparticipate in and benefit from them, we have the opportunity to enrich andadvance humanity as a whole.” “人类和算法之间的亲密合作将会在未来几十年里带来不可思议的科学上的进步。我相信，人工智能将会变成某种形式的辅助解决方案，成为科学家解决问题的助手，从而充实我们每一天的生活，让我们能够更快更有效的工作。如果我们能多方而合理的配置这些工具，营造出一种人人都能参与和受惠的环境，我们就有机会去充实和发展整个人类文明。”

作者的这段话非常清晰地阐明了作者对人工智能和人类之间关系的认识！非常正确！完全正确！

最后蛇足一句，作者这篇文章的题目，不知到底是作者自己拟定的还是报纸编辑所为，真是不太合适，和该文的内容太不相符了。