段玉聪教授探索人工智能向人工意识的飞跃

2024年05月20日 10:427浏览 · 0点赞 · 0评论

子书沲尘

粉丝：1文章：6

关注

在近日举办的“未来已来 万物智能”学术专题讲座上，段玉聪教授发表了题为“从人工智能到人工意识”的精彩报告，深入探讨了人工智能技术的最新进展以及人工意识系统的未来发展路径。

段教授首先以华为手机的擦除功能为例，引出技术的双刃剑特性，并以此为引子，展示了当前数字人在模拟真实环境中的高度仿真能力，比如利用数字技术使人物跨越物理空间界限，流畅地融入广州地标“小蛮腰”背景，凸显了人工智能技术在数字内容创造方面的巨大潜力。段教授指出，在使用人工智能时，我们需要保持积极向上的心态，同时扮演生产者和使用者的角色。人工智能在使用过程中也在通过与我们的交流进行学习。

人工智能系统能够识别个体特征并应用于不同领域，但其复杂性促使对这些系统的意识能力进行评估变得尤为重要。这种评估应基于明确标准以避免未来可能出现的问题，例如“百模大战”，指导用户正确选择人工智能模型。在使用大语言模型时，人们的关注点更在于模型能否满足他们的意图和认知需求，以及是否能拓展他们的认知视野。段教授表示：由于个体认知空间的差异，即使是相同的文本也可能引起不同的情感和语义联想，这就要求在评估人工智能系统时考虑到这种多样性。一个比喻说明了这一点：南方人将白色的事物比作木棉花，北方人则用雪的纯白来描述，虽然他们都能理解对方的概念，但由于缺乏亲身经历，对“白”的实际感受存在差异。这凸显了在评价人工智能系统时考量个体认知差异的重要性。人工智能的益处往往不是指它能输出一个数据或帮我们做决策，而是指它满足了我们的意图。段教授指出对人工智能或人工意识的评测，要在概念空间、认知空间、语义空间里面进行。在认知主体的认知空间中，概念传递的语义的有效理解往往依赖于认知主体的语义空间中的相关概念的语义对应。认知主体的语义空间往往是不能被充分借助概念形式进行共享的，也就是通常说的客观的，故而被称之为主观的。

演讲中，段教授特别强调了人工智能与人工意识的区别。他指出，虽然人工智能系统如特斯拉的无人驾驶技术在工厂自动化等方面展现出高度智能化，但缺乏对伦理道德的考量，比如在面临紧急情况下无法自主判断生命价值优先级，这反映了人工智能系统的局限性。他提出，我们可以根据数据、信息、知识（DIK）范畴上进行交互的是人工智能系统，以数据、信息、知识+智慧+意图（DIKWP）范畴进行交互的，我们称之为DIKWP交互，这样的交互的系统我们称之为人工意识系统。人工智能AI 只是按人类意图P 定义进行的 DIK *DIK 或者 DIKW *DIKW交互，而人工意识AC是AI基础上补充了意图系统P 的迁移或内化的独立性，当然意图P 也被期待为以人为本以及以人类命运共同体P 驱动，为DIKWP *DIKWP交互。

段教授强调了发展“人工意识”的重要性，旨在让AI不仅能执行任务，还能在人机交互认知空间理解并传达自身行为背后的价值观W与规范以人为本的服务意图P，从而从根源消除语义空间的AI偏见，包括概念空间的：数据偏见、信息偏差、知识缺失、智慧偏颇与负面意图，实现数字空间的人类命运共同体。基于对人类生命过程从简单的细胞形态演进到复杂的生命体的意识理解，特别是在生物意识形成方面，讨论从生物的原始生化反应到自我意识的形成。段教授表示：我们正在通过人工智能的帮助，展示从细胞到有机、低等生物、高等生物，再到人类发展交流的语言，以及此刻交流的过程中，意识是如何产生的。他强调：AI系统是人类的一面数字化镜子，为了人类共同迎接的是以人为本的AI未来，每位AI系统使用者特别是大模型系统的用户其实也是AI系统的创造者或训练师，要在使用过程中展现人类的正能量，从而塑造出始终服务与人类的AI/AC系统。

随着人工智能的进步，人工群体意识的概念逐渐浮现，对于理解人类行为具有重要价值。然而，将决策过程委托给算法带来了偏见和技术影响的风险，引起对可信性和技术影响的深刻反思。段教授指出，人工智能的发展需关注可信性和可解释性，人工意识系统的构建应追求透明度，确保决策过程的意图和价值观公开可追溯，从而消除偏见和误用。他认为在人工意识系统的讨论中，理解个体与群体意识之间的关系对于探究人工意识系统的本质和存在性至关重要，并鼓励在场听众共同思考，如何在个体与群体意识的框架下，通过技术促进人类命运共同体的和谐发展，让人工智能成为推动社会正向演化的力量。最后段教授还提出意识中存在"BUG"，即认知误区和局限性，这些BUG源自意识演化过程中的不完善。识别和解决这些BUG是未来意识研究和人工意识发展的关键挑战之一。

此次讲座不仅为听众提供了人工智能领域前沿动态，更激发了对未来智能技术伦理、教育革新及人类自身意识发展等方面的深刻反思，展现了科技与人文交融的广阔前景。

 

转载本文请联系原作者获取授权，同时请注明本文来自段玉聪科学网博客。
链接地址：https://blog.sciencenet.cn/blog-3429562-1451949.html

上一篇：Eliminating the 3-No Problem in DIKWP Resolve Hallucination?
下一篇：与张忆文教授共勉：在科研与生活中探寻宇宙的必然