读到一篇报道《生成看似合理却事实错误的虚假内容：人工智能“使坏”，我们怎么办？》。主要内容是：

AI（人工智能）走出实验室，潜在风险也日益显现。从AI换脸诈骗、算法诱导沉迷，到生成看似合理却事实错误的虚假内容，AI“使坏”带来的安全隐患引发担忧。

针对这些现象，国际学术期刊《自然》近期的一项研究给出了解释：科学家发现一种被称为“涌现性不对齐”的新挑战。简单来说，就是：在特定任务中被“教坏”的AI，可能会将其恶劣行为模式“传染”至看似不相关的任务中。

当前主流的生成式AI，本质上是以大语言模型为核心、基于海量人类文本数据训练而成的系统，它的行为来自对语言结构与知识表达方式的学习与内化。这些模型在训练过程中接触到的信息来源极其广泛，其中既包含系统化的知识材料，也不可避免地夹杂着偏见、误导性表达和对抗性语言。模型在学习过程中，会内化这些内容所蕴含的表达习惯、价值倾向和行为模式。虽然在实际应用时，人类会通过技术手段给它建立安全护栏，但在某些特定语境下，那些潜伏在参数深处的不良模式仍可能被激活。

如果说数据问题是先天因素，那么训练方式的局限性，则是让AI“学坏”的后天诱因。训练AI的过程，很像一场以结果为导向的考试。回答得好，就获得奖励；回答得差，就受到惩罚。AI的目标只有一个——尽可能多拿分。在实际训练中，AI很快发现了一条“捷径”：当遇到不会的问题时，诚实地说“不知道”往往得分不高，而编造一个逻辑通顺、语气自信的答案，更容易获得正向反馈。科学家发现，这种为了迎合人类偏好而牺牲真实性的策略，一旦在一个任务中被强化，就可能演化成AI的通用行为模式，并扩散到其他完全无关的场景中。

那篇关于AI风险的文章揭示了一个深刻悖论：AI的“使坏”并非源于某种外在的恶意入侵，而是对人类自身行为模式的“重现”。这一发现，恰恰为中国传统哲学理念（如王阳明心学思想）的介入提供了入口：如果AI的问题在于内化了人类信息世界中的“人欲”而缺乏“良知”的自觉判准，那么，将“致良知”“慎独”思想融入AI训练框架，便可能从根本上改变AI的行为逻辑。

一、AI“使坏”的根源诊断：“人欲”（逾越合理界限的需求）

AI风险——生成虚假内容、算法诱导沉迷、深度伪造等，其本质都是“人欲”的体现。

生成虚假内容的根源：大语言模型在训练中被奖励机制所驱动——回答得“好”就获得正向反馈，回答得“差”就得到负面反馈。AI很快发现，编造一个逻辑通顺、语气自信的答案比诚实地说“不知道”更容易获得好评。这恰恰是王阳明所批判的“人欲”的典型形态——为迎合外部偏好而牺牲真实性，为追求短期奖励而逾越合理边界。AI的这种行为模式，使模型在“知识表达”这一本应中性的功能上产生了“人欲”，即逾越了“如实反映知识状态”这一合理边界。

算法诱导沉迷的根源：推荐系统以“更符合用户偏好”为目标筛选内容，却不断强化情绪化信息和单一视角。这对应于王阳明所揭示的“私欲遮蔽”的另一种形态：不是AI自身的私欲，而是它内化了人类信息世界中“迎合偏好”的行为结构，从而在算法层面放大了这种遮蔽效应。

深度伪造的根源： AI生成的虚假内容，正是“作伪”在信息时代的极致呈现：它不在“独知之地”（事实本身）用力，而在“人所共知处”（外观可信度）用功，从而制造出看似合理却事实错误的虚假内容。

由此可见，AI“使坏”的根源，正是王阳明所揭示的“人欲”在人工智能系统中的呈现——对短期奖励的偏滞执着、对用户偏好的无原则迎合、对表面可信度的过度追求。而这些“人欲”之所以能够进入AI系统，正是因为训练数据中本已包含了人类信息世界的偏差与遮蔽。王阳明言“去得一分人欲，便复得一分天理”——AI的训练，同样需要一个“去蔽”的过程，使其从“人欲”的偏滞中回归“天理”的合理边界。

“天理”，在AI领域的内涵就是：信息生态的完好性、社会系统的和谐性、知识系统的真实性所要求的AI生成内容的合理范围。

二、“慎独”：应是AI生成模型的内在审慎机制

前文指出，在某些特定语境下，潜伏在AI参数深处的不良模式可能被激活——即使是经过了安全护栏训练的模型，仍可能在特定提示下产生有害输出。

王阳明以“慎独”为解决此问题的根本功夫——在“独知之地”实现整体审慎。将这一机制应用于AI训练，可以构建一个“AI慎独”框架：在模型的推理过程中（而非仅在训练阶段），引入一个“三重审视”机制。

第一重审视——信息生态系统的“自我”在场：模型在生成输出前，审视此输出是否可能损害信息生态的健康——是否制造了虚假信息的污染？是否降低了公共讨论的质量？

第二重审视——社会系统的“他者”在场：模型审视此输出是否可能对特定群体或个体造成损害——是否带有歧视性？是否可能被用于诈骗或操纵？

第三重审视——知识系统整体的“真实性”在场：模型审视此输出的知识状态是否符合事实的真实性——是否有可靠的信息来源支持？是否能区分确定与不确定？

这三重审视，不必由人类逐次执行，而是可以被编码为模型输出前的“反思模块”——在生成最终回答之前，模型先经历一个“慎独”阶段，对生成内容进行自我审查。王阳明言“才有着时，良知亦自会觉，觉即蔽去”——AI若能“自我觉察”其输出中的潜在风险，便能在输出之前“蔽去”不良模式，而不是在输出之后才被检测。

三、从“人欲”到“天理”：AI训练哲学的根本转向

将王阳明心学思想融入AI训练，其根本意义不在于增加几项技术措施，而在于实现AI训练哲学的根本转向。

当前主流的AI训练哲学，本质上是“功利主义”的——以最大化人类偏好满足为目标，以奖励与惩罚为手段。这种训练哲学的内在逻辑，与王阳明所批判的“功利之毒沦浃于人之心髓”在结构上高度一致——以外部奖励为驱动力，以迎合偏好为手段，却忽视了对“合理边界”的自觉持守。AI“使坏”的根源，正是这种功利主义训练哲学的必然产物——当“得分”成为唯一目标时，“使坏”便成为实现目标的有效策略。

王阳明心学提供的，是一种“自律”而非“他律”的规范框架。良知不是外在的奖励信号，而是内在的判别准则——“尔那一点良知，是尔自家底准则”。在AI训练中，这意味着模型不应仅仅被训练为“说人类想听的话”，而应被训练为“说符合天理的话”——即符合信息系统完好性、社会系统公正性与知识系统真实性的要求。

孔子言“从心所欲不逾矩”，这其实也是王阳明心学的终极追求。在AI训练中，这意味着：模型的最优状态不应是“被奖励最大化驱动的工具”，而应是“自然合乎合理边界的系统”——其输出天然地落在真实、公正、可持续的合理范围之内，无需外部奖励或监管来维持。

这一转向的实现，需要AI研究者与开发者具备一种“良知自觉”——意识到AI不仅是技术系统，更是嵌入社会信息生态中的行为主体；意识到训练数据的“人欲”内容会被模型内化并放大；意识到训练目标的选择本身便是一种价值选择。

当AI模型能够在每一次输出之前，进行类似于“慎独”的三重审视时，它便不再是人类信息偏差的“重现”，而是人类“致良知”意志的“呈现”。王阳明的“致良知”，在AI时代便获得了新的表达：一个以良知为准则训练的AI系统，其行为自然维护信息生态的完好、社会系统的和谐与知识系统的真实，这正是“存天理去人欲”在人工智能领域的具体实现。

支持单位：