AI哲学_吴怀宇(中国科学院)分享 http://blog.sciencenet.cn/u/wuhuaiyu 博士教授。中科院博士、北京大学博士后、中国3D科技创新产业联盟副理事长、三体科技研究院院长,受聘多家机构的高端领军人才/导师//教授/研究员

博文

5.8.7、对人类知识的重构:AI大模型与智能体代理

已有 486 次阅读 2026-3-8 10:12 |系统分类:观点评述

opendai_logo.gif

在本书作者看来,大模型是对人类知识的深度重构。目前AI俨然既是工具又是内容、既是内容又是规则、既是规则又是代理人。

真正的AI产品,不在于“它能做什么”,而在于“它做成了什么”。人类角色也从“操控者”转为宏观的“编排者”(导演)。

在AI时代,选择大于努力、判断大于推理、谋划大于运作、统合大于分析、结构大于内容、目标大于过程、审美大于深思!

点击+号关注本账号,可获得更多精彩内容。

AI大模型是近年来人工智能领域最具革命性的技术突破之一,其核心在于通过海量数据和超大规模参数训练,实现对复杂任务的通用化处理能力。这类模型基于深度学习架构,能够从文本、图像、音频等多模态数据中自动学习高层次特征和规律。具体地,以Transformer等先进神经网络架构为核心,通过自注意力机制实现语义关联捕捉,并借助预训练-微调机制完成知识迁移,并通过对齐学习和人类反馈强化(RLHF)来优化模型行为。它们的出现彻底改变了传统AI针对单一任务定制模型的范式,展现出强大的泛化能力和涌现特性,例如GPT系列模型在语言生成、代码编写和逻辑推理等多样化任务上的表现,已接近甚至超越人类水平。大模型的训练依赖于分布式计算集群和优化算法,消耗巨大的算力资源,但其“预训练+微调”的范式显著降低了下游应用开发的门槛,成为推动产业智能化的重要基础设施。

OpenAI的GPT系列模型和Meta的LLaMA模型都是这一领域的代表作。研究人员正在探索更高效的训练算法和架构(比如DeepSeek的高性价比、超低成本和强推理能力),以减少计算资源的消耗,同时提高模型的准确性和泛化能力。此外,为了应对数据隐私和安全问题,隐私保护技术如联邦学习和差分隐私等正在被广泛研究和应用,这些技术能够在不泄露用户数据的情况下,实现模型的训练和优化。技术的进化正推动社会生产关系的重构,AI大模型不仅重塑了内容创作范式——如个性化文本生成,智能客服、自动驾驶等新业态,也可通过迁移学习机制将通用知识快速适配至金融、教育等垂直领域。未来,大模型将向多模态、具身智能和专业化方向演进,也同时面临算力消耗、数据枯竭、伦理争议等挑战。

随着大模型可用性的极大提升、以及对人类部分能力的逼近甚至超越,目前AI俨然既是工具又是内容、既是内容又是规则、既是规则又是代理人,这就打破了技术中立、管治分离、主体公平的传统边界。

在本书作者看来,目前的大模型本质上是一种Deep Reconstruct(深度重构)技术,还不是Deep Think(深度思考)技术。大模型是对人类知识的深度重构,即先把海量的知识进行压缩(合并、精炼),并打成有结构的碎片;然后再通过设置平滑条件和连续参数,根据应用需求把压缩精炼后的碎片Reconstuct(重构)拼合出新的语句。重构的这个“压缩、打散再拼合”的过程也可被称为编码(Encode)和解码(Decode)过程。这和3D重建有相似性:也是先把3D网格面片打散,然后再重建出新的形状。图解说明参见章节“2.32.3 AI的重构主义(Reconstructionism)”。

大模型的发展将经历了如下几个重要阶段。

* 最开始,大模型处于“Copilot”(飞机副驾驶员)阶段,即AI作为人类的智能副手,其核心价值体现在辅助决策而非独立决策,通过提供建议和辅助决策来帮助人类更高效地完成任务,其输出内容仍需人类进行审核和把关,以确保质量。在这个阶段,人类给AI的详细清晰“提示词”(即提问词)非常关键,其用于对AI输出内容的导引指示,类似于对其念经文、咒语,并由此诞生了“提示词工程”(Prompt Engineering,设计、优化和调整提示词以引导AI大语言模型进行最佳输出)。

* 随后,大模型的发展进入了“Agent”(智能体)阶段。其核心特征在于突破被动响应的局限,开始具备主动工具调用、环境感知与策略优化能力。这类智能系统具备一定的自主性,能够反思和自我进化,标志着人工智能从工具属性向主体性思维的重要跨越。

* 随着自动化程度的进一步提升,大模型将发展到“AI Worker”阶段,智能体能够像人类一样独立完成各种脑力和体力工作,届时人类的大部分工作都可被AI取代。

其中,“智能体”这一概念可以追溯到20世纪50至70年代,当时计算机科学家们开始探索具备自主任务执行能力的程序系统。到了80年代,随着传统集中式AI方法在复杂环境中暴露出局限性,智能体逐渐成为研究的重点。作为一个系统化的理论概念,智能体被定义为能够自主感知环境、做出决策并采取行动的计算单元。比如,在自动驾驶领域,智能体通过实时感知和决策,实现了车辆的自主导航和避障。这一概念为现代AI技术奠定了基础,尤其在机器人技术、自主系统和多智能体系统的研究中发挥了重要作用。

智能体不是要完全脱离人类的控制,而是追求人机共生以及人机共融的境界。真正的AI产品,不在于它“能力如何”,而看“实际成效”;不在于“你让它做什么”,而在于“它为你完成了什么”(特别是要能够完成一个完整的任务流程,从头到尾形成一个交付闭环)。当你跳出“人控机器”的思维,重新思考任务定义、(对AI的)信任权限分配、和协同机制时,才算迈入人机共融的大门。特别是,当前的AI模型在单轮对话中表现不错,但在多轮交互中性能急剧下降——其根本原因在于当前AI模型缺乏真正的内在一致性和自我认知能力,因此不应对AI的当前能力过于苛求,而应把关注点放在尽可能多地获得实际的成效。

智能体的发展趋势是:从LLM(大模型)到工具调用,再到工作流编排和职责委托,最终形成智能生态网络。将AI系统视为“生产线”而非单次问答,这就需要构建从组织、流程、到工具链的完整运作结构、并支持多智能体的协作:并行运行、故障恢复、状态追踪,以及所有行为可监测、可调试、可优化、可迭代。每步都需明确责任划分、反馈机制和自动升级优化路径。人类角色也从“操控者”转为宏观的“编排者”(导演),负责设计智能体的职责、接口与信任边界;而大模型也不再是应答工具,而是(具体的)“路径规划者”。未来的AI操作系统将是任务调度中枢,基于“成果导向”——不看“能做什么”,只看“做成了什么”。

最终,智能体与人类达到人机融合(天人合一)的和谐境界。在AI时代,大模型可以提供海量的资料检索和生成,人类最重要的不再是分析能力、推理能力,而是判断能力、选择能力、谋划能力、架构能力、统合能力、与审美能力,即如何先想象和谋划(人类提供洞见和问题),并从AI大模型提供的多个分析方案中进行选择和判断,在此基础上进行架构和统合,而无需自己进行大量的分析思考(因为人类有限理性的思考能力,相比于AI几乎无限的算力将显得九牛一毛),正所谓“选择大于努力、判断大于推理、谋划大于运作、统合大于分析、结构大于内容、目标大于过程、审美大于深思”!

更详细内容,请见本书的完整版。如果你有任何感想,请在评论区留言,一起讨论。

“AI哲学一吴怀宇”(中国科学院博士、北大博士后)作者主页:www.OpenDAI.org;邮件:huaiyuwu@sina.com

视频号/公众号:AI哲学一吴怀宇中国科学院(人工智能哲学)



https://blog.sciencenet.cn/blog-4099-1524893.html

上一篇:「AI哲学」:AI全新时代下,人类如何“为自身立命”与“为AI立心”
下一篇:5.8.8、AI(人工智能)还是IA(智能增强)?
收藏 IP: 180.79.10.*| 热度|

2 许培扬 郑永军

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2026-3-10 02:13

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部