[敬请读者注意] 本人保留本文的全部著作权利。如果哪位读者使用本文所描述内容，请务必如实引用并明白注明本文出处。如果本人发现任何人擅自使用本文任何部分内容而不明白注明出处，恕本人在网上广泛公布侵权者姓名。敬请各位读者注意，谢谢！

“人工智能永无可能超越人类智能”的观点错在哪里？

程京德

本文试图回答某位读者的要求：“程教授你好，有一位叫王培的学者对AI的观点和你相反，并且指出了你们这些认为AI不会超越人类的人的错误之处。查阅此人的众多文章后发现，主要原因是他开发的AI是“非公理化推理系统”，他自己说哥德尔那一套不适用。通用人工智能的四大基本问题 https://mp.weixin.qq.com/s/URD6Enqw2MUt0aMf_7_aJg，计算机是否具有创造性，https://mp.weixin.qq.com/s/AEMzHtTAoWxnWYxqxU8NUA。” “程教授能否看一下上面的消息。”

本文无意正式地（亦即，完全地）评价王培教授的工作，仅针对上述读者“指出了你们这些认为AI不会超越人类的人的错误之处”之说，试图从“人工智能永无可能超越人类智能”的观点是否错了，王培教授的文章是否的确“指出了你们这些认为AI不会超越人类的人的错误之处”，来评价该读者指定的王培教授的两篇文章。

在文章“通用人工智能的四大基本问题 |「AI那厮」开篇辞”中，作者首先说道，“像很多其它研究领域一样，人工智能的基本问题可以提炼成四个：“做什么?”“能做吗?”“怎么做？”“该做吗？”下面是我对这些问题的简略分析。”

笔者的评论是，依笔者之见，任何研究领域里的研究工作，在问“做什么”之后，至少要接着再先问一问“为什么做”，然后大概才是“该做吗”、“能做吗”、及“怎么做”。实际上，没有调查清楚“为什么做”，是不太可能回答“该做吗”的。

在文章“通用人工智能的四大基本问题 |「AI那厮」开篇辞”的第二节“成功可能”中，作者说道，“我下面只简单说明为什么现有的否定性论证都是不能成立的。这里有几种不同的情况。”作者似乎列举了三类情况：（1）“一类“人工智能不可能”的断言是出于对这个领域的研究目标的误解，因而是在攻击一个稻草人。持这种态度的人往往以为这个领域的目标是制造在所有方面都和人一摸一样的计算机。”（2）“另一类“人工智能不可能”的论证是值得重视的，因为它们是直指人工智能技术的某些“死穴”。比较常见的包括“计算机必须遵循程序，因此不可能有灵活性和创造性”“计算机只能根据形式来使用符号，但无法获得其意义”“有些真理人能发现，但计算机永远不能”。在这里，我不具体讨论它们（参见我以前的文章），只是指出它们的一个共同问题：其实这里每个论证都是针对一个具体的智能技术或计算机用法，但结论却往往是“人工智能”如何如何、“计算机”怎样怎样，其结果是夸大了其结论的适用范围。”（3）“具有讽刺意味的是，在近期对人工智能的限度的讨论中，很多形如“人工智能永远也无法……”的断言反而是出自“人工智能专家”之口。这其实也源于主流人工智能在历经挫败后对“大问题”的回避。很多人研究多年“人工智能”，但只是注重于对某个别功能的实现和某个别问题的解决，因此在他们说“没人知道如何实现通用智能”时，他们实际上说的是“我不知道怎么做，而且我所追随的那些名人也不知道怎么做。其它人的工作不值得注意，因为反正他们也还没做出来呢”。由于有理由认为通用智能系统和专用系统是非常不同的领域，在后者的研究中成名的人物对前者发言时权威性其实是很有限的，而且“现在还没做出来”和“永远也不能做出来”显然不是一回事。”

笔者在文章“人工智能永无可能超越人类智能”中所陈述的观点、论据、和结论，显然与上面第一类毫不相关，但是，应该与第二类及第三类相关（尽管笔者不敢自称是“人工智能专家”）。关于第二类，笔者不认为自己的文章有所谓“共同问题：其实这里每个论证都是针对一个具体的智能技术或计算机用法，但结论却往往是“人工智能”如何如何、“计算机”怎样怎样，其结果是夸大了其结论的适用范围。”笔者在文章中没有讨论任何具体问题，完全是针对“人工智能系统”所能表现出的“人工智能”一般问题进行讨论的。关于第三类，笔者文章的题目就是“人工智能永无可能超越人类智能”，但是，笔者在文章中所讨论的，并非现在做得出来做不出来，而是试图在一般原理上论证“永无可能”。

文章“通用人工智能的四大基本问题 |「AI那厮」开篇辞”的其余部分似乎与笔者的文章及观点无关，就不在这里评论了。

文章“计算机能有创造性吗？”整体上的最大问题，在于没有清晰地认识并且区分计算/智能行为的行为主体。文章中言及了“计算机”、“计算机系统”、“创造性”、“算法”、“程序”、“编程”、“程序控制”、“解题过程”，等等，但是通篇却没有任何地方去清晰地认识并且区分计算/智能行为的行为主体究竟是谁。笔者本人也是在最近考查“人工智能究竟能否超越人类智能”这个问题时，才发现无视/忽视行为主体实际上是人工智能领域很长时间以来的一个误区。

讨论“计算机系统/人工智能系统”的功能及效果，如果不在与人类做比较的语境下，那么不去刻意认识并且区分计算/智能行为的行为主体，问题并不很大。因为仅从应用及效果来看，到底谁是行为主体并不重要。计算机被发明以来，人类社会绝大多数计算机应用都是如此。但是，当我们要把“计算机系统/人工智能系统”与人类做比较时，如果不清晰地认识并且区分计算/智能行为的行为主体，从逻辑上或者哲学上说，应该是很有问题的。所以，依笔者之见，在没有清晰地认识并且区分计算/智能行为的行为主体的情况下却说什么“计算机系统/人工智能系统能够怎样怎样”的能力并且把这种能力与人类的能力去做比较（无论比较结果为何），从逻辑上或者哲学上毫无意义。

关于计算/智能行为的行为主体以及设定评价标准的行为主体，笔者在文章“人工智能永无可能超越人类智能”已经予以讨论，有兴趣的读者烦请参阅该文章，这里不在赘述。

文章“计算机能有创造性吗？”中对“计算理论的“基于算法的解题过程”的框架”和““解决一个问题”在计算理论中和在日常生活中的意思是不一样的”的讨论，都是正确的，基本上同样的观点，在笔者文章“人工智能永无可能超越人类智能”都给与了一般性讨论。

文章“计算机能有创造性吗？”中还简单地介绍了一个“让计算机以“相机行事”方式解决问题的一个具体设计”。抛开该方式/系统的具体不论，因为作者并非主张该方式/系统可以解决所有问题，可以超越人类，所以，对笔者“人工智能永无可能超越人类智能”之主张并非构成一个反例。

本文结论：笔者不认为某读者所说“有一位叫王培的学者对AI的观点和你相反，并且指出了你们这些认为AI不会超越人类的人的错误之处。”是事实。

顺便借此文蛇足一句。笔者本人坚信“人工智能永无可能超越人类智能”，但是却认为“人工通用智能(AGI)”是一个非常有价值的重要研究方向，并且迟早会获得一定成功。笔者本人的观点是，从“通用”这一本质要求的“宿命性”来说，人工通用智能系统的实现必须建立在合适的逻辑基础之上，而这个合适的逻辑基础，非相关逻辑莫属。笔者将写文章陈述这一观点，烦请有兴趣的读者期待。

微信公众号“数理逻辑与哲学逻辑”