[敬请读者注意] 本人保留本文的全部著作权利。如果哪位读者使用本文所描述内容，请务必如实引用并明白注明本文出处。如果本人发现任何人擅自使用本文任何部分内容而不明白注明出处，恕本人在网上广泛公布侵权者姓名。敬请各位读者注意，谢谢！

对 Sam Altman 关于AGI及GPT-10之预言的批评

程京德

9月7日，微信公众号“新智元”发布了报道“Sam Altman预言2030年前出现AGI，GPT-10智慧将超越全人类总和！”[1]，本文根据“新智元”的这篇报道，对Altman之预言做一些评论。本文的评论仅限于Altman之预言中的两点：“AGI”以及“比全人类都聪明”[实际上，该报道的大部分内容与报道标题所示预言无关 -- 笔者注]，关于对于AIGC工具及人工智能能否超越人类智能的一般性评论，烦请参阅笔者以前的评论文章[2-6]。 

Altman之预言中的主要观点是：“人类可能在2030年之前，开发出AGI。” “GPT-10就是AGI，它比全世界所有人加起来还要聪明！” “如果我们能够开发出一个系统，能自主研发出人类无法研发出的科学知识时，我就会称这个系统为AGI。” “当开发出GPT-10的时候，也许他能比全世界所有人的加起来还聪明。” [1] 

首先，关于什么是AGI，在人工智能的AGI领域，学者们有着比较一致认可的一般定义：“人工通用智能(AGI)”，按照该领域文献 [7] 的陈述，“专注于人工智能领域最初雄心勃勃的目标 -- 创造和研究具有与人类相当甚至最终可能更高等的通用智能的软件或硬件系统 (focusing on the original ambitious goals of the AI field – the creation and study of software or hardware systems with general intelligence comparable to, and ultimately perhaps greater than, that of human beings.)。” “通用智能包括在各种不同的背景和环境中实现各种目标和执行各种任务的能力。一个通用智能系统应该能够处理与其创建者所预期的截然不同的问题和情况。一个通用智能系统应该善于概括它所获得的知识，以便将这些知识从一个问题或上下文转移到其他问题或上下文(General intelligence involves the ability to achieve a variety of goals, and carry out a variety of tasks, in a variety of different contexts and environments. A generally intelligent system should be able to handle problems and situations quite different from those anticipated by its creators. A generally intelligent system should be good at generalizing the knowledge it’s gained, so as to transfer this knowledge from one problem or context to others.)。”

显然，相比于学术界的定义，Altman对AGI的个人定义，“如果我们能够开发出一个系统，能自主研发出人类无法研发出的科学知识时，我就会称这个系统为AGI。”，是很粗糙、很不严谨的，甚至可以说是很不严肃的。所谓“自主研发”是指什么？人类的参与程度为何（既然是人类开发出的系统，不可能没有人类的参与）？怎么定义“人类无法研发出的”？怎么定义“科学知识”？静态的积累结果？还是动态的积累过程？笔者认为，无论从科学还是技术的角度来说，Altman都是在信口胡说，他根本没有认识到和理解一些最基本最基础性的问题。

至于“人类可能在2030年之前，开发出AGI。GPT-10就是AGI。”，当然是有可能的，这只需要Altman对OpenAI的GPT产品适当编号即可。

但是，说“GPT-10就是AGI，它比全世界所有人加起来还要聪明！”，就又是Altman更在信口胡说了。全世界有那么多的逻辑学家、数学家、自然科学家、社会科学家、各个工程领域的工程师们（包括开发出GPT-10的工程师），他们每天辛勤工作，为人类社会创造着科学知识、技术发明、技术产品，他们的聪明才智岂能是用任何数值指标来衡量和测度的？GPT-10是不是AGI权且不论，它岂能与人类的聪明才智做认真的比较？

（2023年9月11日记）

参考文献

[1] 新智元,“Sam Altman预言2030年前出现AGI，GPT-10智慧将超越全人类总和！”，微信公众号“新智元”，2023年9月7日。

[2] 程京德，“以 ChatGPT 为代表的无偿式概率式自动生成工具之滥用将给人类社会带来什么后果？”，微信公众号“数理逻辑与哲学逻辑”，科学网博客，2023年2月6日。

[3] 程京德，“ChatGPT 的原理局限性：它永远不会做什么？”，微信公众号“数理逻辑与哲学逻辑”，科学网博客，2023年2月10日。

[4] 程京德，“论“创造/创作/创新”及AIGC工具的“创造性””，微信公众号“数理逻辑与哲学逻辑”，科学网博客，2023年3月8日。

[5] 程京德，“人工智能永无可能超越人类智能”，微信公众号“数理逻辑与哲学逻辑”，科学网博客，2023年5月1日。

[6] 程京德，“威胁人类文明生存的不可能是AI而只能是人类自己”，微信公众号“数理逻辑与哲学逻辑”，科学网博客，2023年5月18日。

[7] B. Goertzel, “Artificial General Intelligence: Concept, State of the Art, and Future Prospects，” Journal of Artificial General Intelligence, Vol. 5， No. 1, pp. 1-48, 2014.  

微信公众号“数理逻辑与哲学逻辑”