AI（人工智能）奇点与AGI（通用人工智能）是两个紧密相关但有所区别的概念。AI奇点指的是人工智能的智力水平达到一个临界点，之后其发展速度将呈指数级增长，超越人类的理解和控制能力。AGI是一种能够完全模仿人类智能的行为，能够执行任何人类智能活动的计算机系统。当然，实际上现在还没有人真的知道奇点是什么样子。然而，大多数研究人员都同意，AI奇点需要AGI才能发生。

[ AI奇点 ]

AI奇点，通常简称为奇点，是一个假设的时间点——人工智能达到一个超越人类智能的临界点，人工智能将能够迅速自我完善，从而引发不可预测的变化和影响，之后其发展速度将呈指数级增长，远超人类的理解和控制能力。

奇点概念的起源可以追溯到20世纪50年代。众所周知，1950年艾伦•图灵发表了题为《计算机器与智能》的论文。实际上，早在1948年，艾伦•图灵还为英国国家物理实验室（NPL）撰写了一份题为《Intelligent Machinery（智能机器）》的研究报告，该报告被认为是人工智能的第一个宣言。1957年，数学家和计算机科学家冯·诺依曼首次明确使用“奇点”一词。1988年，弗诺·温格首次使用“技术奇点”一词。“技术奇点”一词与更小众的“人工智能奇点”有许多重叠，因为两者都涉及超级人工智能和智能机器的不可控制的增长。技术奇点更像是计算机最终无法控制的增长的总称，也往往需要高度智能的人工智能的参与。人工智能奇点将带来不可控制的技术增长。一旦技术足够聪明，能够自己学习和发展，并将会迅速进步和扩张，这种急剧的增长将不是人类可以控制的。未来学家雷·库兹韦尔普及了“奇点”这个术语，他预测这一事件将在2045年左右发生（图1）。

图1 奇点示意图

人工智能奇点的到来，将带来前所未有的变革，影响人类社会的方方面面，包括职业、教育、经济等，甚至会导致人类文明的根本性改变，包括社会结构、道德观念、法律体系等。

[ AGI ]

人工智能可以大致分成三种类型：狭义或弱人工智能（ANI）、强或通用人工智能（AGI）和超级人工智能（ASI）。

现有的人工智能都是ANI，主要用于执行特定工作，例如，自主驾驶汽车、语音识别、图像识别、语言翻译、自然语言处理（NLP）以及协助用户如虚拟助手。AGI就像人类的智能，可以同时做很多事情。ASI比人类的大脑更聪明，可以更好地执行任何任务。

AGI，即Artificial General Intelligence（直译应该是“人工通用智能”，本文沿用国内流行译法“通用人工智能”）的简写，是一种能够模仿人类思维和决策，有自我意识，自主行动的一种人工智能，能够像人类一样学习、思考和行动的人工智能。

虽然AGI还没有被创造出来，但理论上它可以执行比ANI更广泛的任务，就像人类一样，具有创造性、背景知识，能够抽象思维、理解因果，遵循常识做决策，并可将学习从一个领域转移到另一个领域（图2）。也有人称之为强人工智能。

图2 AGI示意图

AGI和人工智能奇点之间的关键区别是它们的侧重点。奇点关乎人工智能的发展速度，关注的是人工智能智能水平的临界点和之后的加速发展，而AGI则关乎人工智能能力，其广度和深度。AGI是人工智能本身性质的进步，标志着从专业化到广义智能的转变。有研究者称，人工智能发展到AGI需要提升的基本能力包括：视觉感知、音频感知、精细运动技能、自然语言处理、解决复杂问题、适应环境变化导航、一定程度创造力、社交和情感互动等能力（图3）。

图3 人工智能发展到AGI需要提升的基本能力

关于AGI的发展是否一定会导致奇点或ASI的还存在争论。一些人认为，一旦实现了AGI，由于AGI提高自身智能的能力，奇点将自然随之而来。其他人认为，从AGI到奇点的进展是不确定的，理由是潜在的限制因素，如资源约束或监管限制。

[ 充满争议的奇点预测 ]

AI奇点将在何时出现？海外有科学家认为将在2030年到2100年之间发生。这一事件将标志着人类科技的一个重大转折点，可能会带来前所未有的机遇和挑战。

七年前（2017年），Tech Xplore发表一项关于机器学习研究人员对人工智能进展的信念的大型调查结果。研究人员预测，人工智能将在未来十年的许多活动中超过人类，例如翻译语言(到2024年)，写高中论文(到2026年)，驾驶卡车（到2027年），从事零售工作（到2031年），写一本畅销书（到2049年），以及担任外科医生（到2053年）。研究人员认为，在45年内，人工智能有50%的机会在所有任务中超越人类。

2024年4月，特斯拉和SpaceX的首席执行官埃隆·马斯克预测，按照当前的技术进步速度，到2030年人工智能的智力可能超越人类，这项技术甚至有可能终结人类。超级智能的出现之所以被称为“奇点”，正是因为其难以预测的后果，包括可能终结人类的风险。他赞同“人工智能教父”杰弗里·辛顿的观点，认为这一风险发生的概率大约在10%至20%之间。

未来学家雷·库兹韦尔预测，AI将在2029年“实现人类水平的智能”。他分析，包括 AI 在内的多个技术正呈现指数级增长，他预测人类也正在迅速提高计算能力、算法复杂性和数据处理能力。因此，这将不可避免地使 AI 系统匹配并最终超越人类智能。

对于奇点的预测，是否真的即将到来或遥不可及的，充满着争议。一方面，有些预言家坚信奇点已经胜利在望，甚至认为它已经存在于某个角落；另一方面，更多的科学家则不以为然，认为现在离奇点还很遥远，甚至有人认为奇点永远不会出现。

有“深度学习三巨头”之称的杰弗里·辛顿、扬·勒昆和约书亚·本吉奥，曾经一起获得了计算领域最高荣誉的图灵奖。但他们对于人工智能风险的看法并不相同。辛顿认为AI系统可能变得比人类更聪明，并且担心AI技术提升后，AI开始编写和运行自己的代码，会对人类的生存造成更大的威胁。2023年4月他甚至辞去了谷歌副总裁的职务，目的是为了能不受约束地警告人们警惕AI的潜在风险。本吉奥则加入一个名为“受保护的人工智能”项目，防止人工智能灾难，旨在建立一个能够检查部署在关键领域的AI系统是否安全的AI系统。本吉奥认为，保证安全的唯一方法是利用人工智能，而不是人类，来检查其它人工智能系统。当辛顿和本吉奥在一份称人工智能是“社会规模风险”的声明中署名时，勒村选择了回避，他认为人工智能的危险被夸大了。勒村等AI专家表示，尽管AI技术取得了显著进步，但奇点仍然非常遥远。也有科学家和学者认为，技术奇点或许永远不会临近——技术奇点的概念缺乏严谨的科学证据支持，难以让人信服。

人工智能奇点的概念虽然充满争议，但它提醒我们思考人工智能的快速发展可能带来的深远影响，以及如何准备和应对这些影响。

[ 历史上的IT预测：保守的和激进的 ]

在信息技术（IT）发展历史上，有几个著名人物的保守预测，曾经成为业界的笑谈。例如，IBM董事长托马斯·沃森在1943年预测，全世界对计算机的需求量总共可能只有5到6台。又如，DEC（美国数字设备公司）的总裁肯·奥尔森在1977年预测，人们没有任何理由要在家里放置一台电脑。这两个预测反映了当时对计算机未来需求的保守看法，与后来的实际情况形成了鲜明对比。

在信息技术发展历史上，同样有几个著名人物的激进预测，成为业界的笑谈。例如，人工智能的先驱司马贺（赫伯特·西蒙）在1965年说:“二十年内，机器将能够做任何人能做的工作。”又如，日本1980年的第五代电脑有一个十年的时间表，目标是“进行随意的交谈”。当然，这些预言也都没有实现。

著名的人工智能专家、麻省理工学院的首席研究员马文·明斯基曾经对于人工智能有更为激进的预测。1970年《Life（生活）》杂志的记者布拉德·达拉赫采访了明斯基，在报道中引用他的话说：“在三年到八年后，我们将拥有一台具有普通人一般智能的机器。我指的是一台能够阅读莎士比亚、润滑汽车、玩办公室政治、讲笑话、打架的机器。到那时，机器将以惊人的速度开始自我教育。几个月后，它将达到天才水平，它的力量将无法估量”。

还有一个说法曾经被媒体广为传播：明斯基和他的同事帕伯特认为，在计算机掌管对社会生存至关重要的系统之前，必须解决计算机控制的问题。如果一台指导国家经济或核防御的计算机将自己的效率置于道德义务之上，它可能会破坏人类的社会秩序——或者毁灭人类。明斯基说：“一旦电脑控制了局面，我们可能永远也不会恢复。我们会在他们的宽容下生存。如果我们幸运的话，他们可能会决定把我们当宠物养。”据说，明斯基否认发表过关于宠物的言论。

[ AGI：通用人工智能的未来 ]

半个多世纪前，马文·明斯基预测“三年到八年后，我们将拥有一台具有普通人一般智能的机器”。当今，也有人预测“在未来三到八年内达到人类水平的AGI”。

2024年3月1日，计算机科学家、奇点网首席执行官本·戈尔策尔，在巴拿马城举行的the Beneficial AGI Summit（有益的AGI峰会）上发表的闭幕词中提出：“我们可以在三到八年内建立一个展示一般人类水平智能的人工智能——这可能在很短的时间内打开‘超级智能’的大门”。戈尔策尔在21世纪初曾经帮助推广了通用人工智能（AGI）一词后，有人称他为“AGI之父”。戈尔策尔指出，人工智能研究正在进入一个指数增长期，有证据表明，通用人工智能（AGI）——人工智能在独立于原始训练数据的几个领域变得和人类一样有能力——是触手可及的。戈尔策尔表示，2029年或2030年可能是人类建造第一个AGI智能体的最有可能的年份，但它最早可能在2027年发生。如果这样一个智能体被设计成能够访问并重写自己的代码，那么它可能会很快演变成一个超级人工智能（ASI）——一个拥有所有人类文明的认知和计算能力的人工智能。

尽管未来难以预测，但是，很多人认为人工智能的未来是AGI。AGI的发展趋势包括生成式AI的快速增长、多模态智能体的发展、AI Agent重构人机交互方式、具身智能成为颠覆制造业的下一个浪潮等。

OpenAI 宣称其既定使命是创建AGI。OpenAI声称：我们的使命是确保通用人工智能——通常比人类更聪明的人工智能系统——造福全人类。2024年7月30日，OpenAI 董事会成员亚当·德安杰洛表示，AGI很可能在5到15年内出现。这一消息在科技圈引发了广泛关注。

除了OpenAI，MicroSoft也致力于推进AGI为人类服务的研究，包括推动基础模型跨任务、语言和模态的大融合，为人工智能开发新的神经架构，为自主智能体开发新的学习范式，以及理解（人工通用）智能的原理和边界。Meta首席执行官马克·扎克伯格也参加竞争。虽然他没有关于何时达到AGI的时间表，但他想建立它。他说：“为了制造我们想要制造的产品，我们需要构建通用智能”。谷歌人工智能工作的领导者德米斯·哈萨比斯有同样的目标。

人工智能已经在执行某些任务超越人类。例如：1997年，IBM的超级电脑“深蓝”以2胜1负3平战胜了当时世界排名第一的国际象棋大师卡斯帕罗夫。2011年，IBM的计算机“沃森”在美国老牌智力问答节目《危险边缘》中挑战两位人类冠军，并获得了胜利。2016年，谷歌的围棋人工智能程序AlphaGo以4:1的比分大败顶尖围棋棋手李世石。2020年，谷歌DeepMind的AlphaFold在人类蛋白质组的高精度蛋白质结构预测，远远超过了人类试图解决蛋白质折叠问题的任何其他方法。2024年7月，谷歌DeepMind的 AlphaProof 和 AlphaGeometry 2 模型在解答国际数学奥林匹克竞赛难题方面，达到银牌标准。还有一些不为大众关注的领域，人工智能系统也已经超越了人类，例如，图像分类（2015年），阅读理解（2017），视觉推理（2020），自然语言推理（2021）等任务。但是，所有这些都只是ANI，不是AGI。

有许多研究人员认为我们距离实现AGI还有几十年，甚至几个世纪的时间。也有人认为奇点可能永远是一个科幻概念。他们声称，虽然人工智能的持续进步可能暗示我们正在走向人工智能奇点，但没有人知道这一技术里程碑是否现实。虽然实现奇点并非不可能，但值得注意的是，在我们接近它之前，我们还有很多步骤要走。所以，现在还不要担心奇点的威胁。

奇点和AGI曾经只是科幻小说的主题，并被许多人视为禁忌。近年随着生成式人工智能技术突飞猛进，像ChatGPT聊天机器人和DALL-E图像生成器这样的工具令人印象深刻，虽然它们不是AGI，但引发奇点成为热门的、有争议的话题。

无论如何，我们正处于一场革命之中。正如在18世纪蒸汽动力、机械化引擎和煤炭供应链改变了世界一样，人工智能技术目前正在改变我们的职业、经济和社会的面貌。人工智能的进步将重塑交通、卫生、科学、金融和军事，改变现代生活。AGI的发展不仅是技术上的突破，也是对社会、经济、伦理等多方面的挑战。随着技术的进步，我们需要谨慎地考虑可能产生的影响。有专家指出，为了及时调整公共政策，我们需要更好地预测。