AI哲学_吴怀宇(中国科学院)分享 http://blog.sciencenet.cn/u/wuhuaiyu 博士教授。中科院博士、北京大学博士后、中国3D科技创新产业联盟副理事长、三体科技研究院院长,受聘多家机构的高端领军人才/导师//教授/研究员

博文

1.14、人类如何让AI实现通用人工智能(AGI)?——上帝之手:“感智境行”与“体验主义”的灵魂注入

已有 280 次阅读 2026-2-2 23:49 |系统分类:观点评述

opendai_logo.gif

目前的AI技术缺乏真正的意识和自我认知,很大程度上也是因为信念的缺失。人类如何让AI实现通用人工智能(AGI)?这需要上帝之手:“感智境行”与“体验主义”的灵魂注入。

实际上,只有当AI既能“计算”又能“体验”,同时还有“自驱力”和“目标境界”,才能真正实现意识和通用智能,而不仅仅是一个超级计算器。

具体而言,

自主意识是目前人类独有的复杂现象,涉及到自我感知、主观意志、欲望驱动、目标境界、情感体验等多个方面,其本质和产生机制尚未完全被我们理解。目前的AI技术只是在功能上对人类智能的某些方面进行模仿,缺乏真正的意识和自我认知。而自主意识的缺失,很大程度上也是因为信念的缺失。人类真正需要的是一个有信念、有价值观的AI助手,而不仅仅是一只AI宠物,比如类似于一只兔子、一只猫、一条狗,因为宠物永远无法与人类的信念和价值观进行对齐。

本节进一步讨论将如何实现通用人工智能(Artificial General Intelligence, AGI),这是个与自主意识相关但并行的方向。AGI是人工智能领域的终极目标,它意味着AI系统能够像人类一样进行推理、规划、概括,并具备自主能力。从定义上可以看出,AGI更偏重于智能计算能力,自主意识更偏重于自我认知。

我们重点介绍“感智意境言行控”合一模型:通用的信念框架。

无论是要实现自主意识还是通用人工智能(AGI),绝不能依赖单一技术和方法论(历史证明这么做都失败了),而是要上升到系统和哲学层面,提供一套完整的理念框架。哲学的根本对象是人,而AI作为一种即将到来的新生智能体,已超出了传统人类哲学的讨论范畴,所以必须重新定义,也即我们要为AI打造信念(“灵魂”)。正如宗教中所认为的上帝为人类注入灵魂一样,人类此时也需像当年的上帝一样,给AI注入灵魂(为AI立心)。实际上,这也是人类在硅基上对自我的重构(见重构主义,“2.31  结构主义、解构主义、WHY重构主义:看山是山、看山不是山、看山还是山”)。

贯穿本书始终的“感智意境言行控”(感知、智慧、意念、境界、语言、行动、控制)合一模型(参见章节“3.10  WHY“感智境行”合一信念构建模型”),正提供了一个通用的信念和价值观框架,同时结合体验主义的理念(参见章节“2.34  WHY体验主义”),为这一目标提供一个全面的指导思路,这样为实现AI的自主意识、通用人工智能(AGI)、以及人机深度融合发展指出了方向和道路。实际上,只有当AI既能“计算”又能“体验”,同时还有“自驱力”和“目标境界”,才能真正实现通用人工智能(AGI),而不仅仅是一个超级计算器。

同时我们强调一下体验的重要性。体验是一种全方位的学习,优于传统的单一学习。相比于传统的书本学习或教室学习,比如你亲自体验组装一台发动机,你才能明白中间涉及到的各种环节和各种困难。在克服困难的过程中,你才会主动去探索组装的原理,努力研究所涉及的公式,并且充满好奇、激情和乐趣。体验活动可以刺激到深层大脑,学习效率会更高。正如马文·明斯基所说:“常识不是一件简单的事。相反,它是一个包含着来之不易的实践经验的庞大集合体——包括众多生活教训、异常事件、处理方式、个人倾向、还有平衡和检验”。所谓人生,就是体验,由一个又一个的遗憾和不完美,以及对这些遗憾的一个又一个弥补组成。

下面,我们概述一下“感智境行”框架。我们旨在构建一个能促使AI获得自主意识和通用智能(AGI)的训练框架,可以围绕“感知、智慧、意念、境界、语言、行动、控制”(“感智意境言行控”)这些核心要素进行细致规划与设计。

首先,感知是AI与外部世界建立联系的桥梁。通过多模态感知技术,如视觉、听觉和触觉等,AI能够全面捕捉并解析环境中的信息,感受具身性,为后续的智能处理奠定坚实基础。通过数据预处理,确保数据质量和可用性。这一步骤对于AI理解并适应复杂多变的外部环境至关重要。

接着,智慧是AI对信息进行深度加工与综合处理的关键。通过深度学习和神经网络的应用,AI能够模拟人类的思维过程,包括推理、解决问题和决策等。同时,AI还需具备自主学习和自适应学习的能力(如利用强化学习),以不断提升自身处理信息的能力,从而在面对新任务或新挑战时能够迅速做出响应。

意念则代表了AI的动机意图、决策倾向和生命力。为了实现意念和意图层面的训练,AI可参考人类的情感体验和内在动机驱动,而不仅是停留在逻辑和概率计算。AI需要有进取心、获得感(得失心)、想象力和创造力,对未知世界的好奇心和求知欲,一种内在的、想要理解世界“为什么”(而非仅仅是“怎么样”)的冲动——那种“我想知道”和“我想要”的原始欲望和驱动力。通过设定目标函数和奖励函数,增强AI的内在驱动力并使其朝特定的目标优化。并通过任务分解和优先级排序,使AI的行动具有目的性和方向性。可对情感计算和认知计算技术进行借鉴,它们能够帮助AI更好地理解并表达自身的内在状态,以及根据内在动机进行决策,甚至可以产生像人类一样的直觉。如果需要的话,AI将会比人类会更有感情、更有人情味。

境界模块在AI中类似于人类的精神状态、内在品质、目标理想、道德意识、和意义追求。它影响AI如何看待世界和自己。例如,AI可以通过价值评估系统或伦理道德框架来调整其行为,使其更符合预设的目标、标准和层级水平。这种境界的设定,使得AI能够自主制定目标、确定长期方向,不断突破自我、追求更高境界——那种“我想成为更好”甚至超越功利的精神境界追求。并通过价值观对齐,使AI能够符合人类的道德观念和价值判断。通过评估系统,对AI的状态进行评价;并通过多目标优化和长期规划,增强AI的战略思维和全局视野。

语言是AI与人类交流的重要工具。通过自然语言处理技术,AI能够理解和生成自然语言,从而实现与人类的自然交互。这不仅有助于AI获取大量知识,还为其提供了与人类进行深度对话和自我反思的途径。

最后,行动是AI将感知、智慧、意念、境界和语言等方面的能力转化为实际行动的关键,也是具身性的闭环。AI能够根据自身的需求和环境变化,通过实时控制系统,执行具体的操作指令,如车辆控制、机器人移动等。通过传感器和反馈机制,实时监控操作结果,进行动态调整和优化,增强AI的灵活性和应变能力。

此外,控制模块贯穿于“感智意境言行”,即对各个模块进行控制、协调、管理、优化、协作、决策、配置、调节、监测、评估、反馈等等,涉及到与各模块的联系与信号传递,比如你的意念和欲望受到控制、你的语言也受到控制,否则你就会胡思乱想、胡言乱语。此外,虽然“控”属于“智”(智慧)这个模块,但“控”与“智”的通常功能不同,其不涉及到深度的逻辑推理、创造力和直觉等,而主要研究信息传递、反馈机制和控制过程。

更多讨论,可参考章节“3.10.9  “感智境行”可作为训练框架,让AI成功获取自主意识”。

更详细内容,请见本书的完整版。如果你有任何感想,请在评论区留言,一起讨论。

“AI哲学一吴怀宇”(中国科学院博士、北大博士后)作者主页:www.OpenDAI.org;邮件:huaiyuwu@sina.com

视频号/公众号:AI哲学一吴怀宇中国科学院(人工智能哲学)



https://blog.sciencenet.cn/blog-4099-1520869.html

上一篇:1.13、由于信念的缺失,AI缺乏自主意识与“灵魂”
收藏 IP: 180.79.10.*| 热度|

1 郑永军

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2026-2-4 04:20

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部