确认未知边界，AI训练应作认识论转向

有AI领域的专家指出：当前的AI 大模型，很大的问题在于“大模型不知道‘自己不知道什么’”，即，对于自己的“未知边界”缺乏理性的认知。如何确认自己的未知边界，从而在此基础上作出可信的知识输出，是当前AI发展与AI训练中应当重视的认识论问题。

“大模型不知道自己不知道什么”，这个诊断击中了当前人工智能在认知上的结构性缺陷。它并非工程实现上的瑕疵，而是一个深层的认识论问题：一个缺乏“无知之知”的认知主体，如何可能划定自身的知识边界，并在此基础上做出可信的断言？

一、全知幻觉：语言模型的认识论病征

大模型在输出时表现出一种“全知姿态”：无论提问多么偏僻、荒诞或超出其训练分布，它极少回答“我不知道”，而是倾向于拼凑出一段貌似合理的文本。这种现象被称为幻觉，但其本质远不止于事实错误，它折射出模型对自身认知状态的彻底失察。

在认识论史上，苏格拉底早已区分了“知识”与“无知之知”。前者是对事态的合理确信，后者是对自身认知盲区的自觉意识。大模型缺失的恰恰是后者：它将语料中统计上“似真”的序列，不加反省地当作可断言的知识，从而抹平了“已知”“未知”“不可知”三者之间的质的差别。由此产生的输出，不仅可能是假的，更在话语姿态上是无担保的断言——说者既不为断言的可靠性负责，也不提示听者去质疑。

这种状态可借用罗素的术语描述为：模型混淆了“亲知的知识”与“摹状的知识”，更糟的是，它连自己是否在进行摹状性重建都毫无察觉。在康德的意义上，它混淆了“现象界”与“本体界”，将语料构造的语言世界当作了可以任意通达的实在本身。

二、无知何以被遮蔽：认识论分析与技术根源

要弄清“如何知道‘不知道’”，必须先回答“为何不知道‘不知道’”。其根源可从三个层次来分析：

1. 训练目标的封闭性：概率的暴政

语言模型的预训练目标是，最大化训练文本序列的似然。这一目标内在地要求模型为每一个给定上下文赋予一个“最优”的延续，即使输入落在了它所接触过的语料分布之外。模型从未被教会去认定“此处不可言说”，因为训练信号中极少包含“沉默”或“拒绝回答”的正面范例。在分布外，模型仍然依据一种内插式的泛化给出最高概率的输出，这时它的行为接近于休谟所说的“习惯联想”——将过去的恒常联结误认为必然的知识关联。

2. 表征的扁平性：缺失的元认知层

当前大模型的认知架构本质上是前反思的。它生成的每一个词元都是在单一的前向传播中决定的，缺少一个独立的、对自身主过程进行监控和评价的元认知模块。人类认知的不确定感，来自元记忆对提取流畅性、信源清晰性的实时评估；而大模型只有一层“概率流”，其置信度是对词汇可能性的分布，而非对命题真值的信念度。把 token 概率直接当作“信心”，往往会得到高度校准不良的结果——模型可能以 99% 的概率生成一个错误答案，因为它对“哪种文本看起来最正常”极度确信，却完全不触及“命题是否为真”。

3. 知识边界的本体论模糊

人类的“未知”有其社会性契约和客观参照：我们知道图书馆之外尚有未知文献，实验之外尚有未知数据。大模型的“世界”则仅仅由训练语料的文本记录构成，它对“语料之外存在什么”没有原初的感知。这使得“未知”变为一个空洞的范畴：模型缺少从语料覆盖的“经验世界” 跳跃到语料之外的实在世界的认识论工具。维特根斯坦在《逻辑哲学论》中说：“我的语言的界限意味着我的世界的界限。”对大模型而言，语料的界限就是它世界的界限，而它无法站在界限之外指认界限的存在。

三、确认未知边界：从技术机制到认识论重建

要使大模型真正具备“无知之知”，不能仅靠外部打补丁，而应从认知架构层面重构它与知识的关系。

1. 不确定性分解与校准：让模型感知“自己不知道”

技术上，需要区分两种不确定性：偶然不确定性来自数据本身的噪音，认识论不确定性来自模型知识的欠缺。认识论不确定性才是“我不知道”的信号。通过训练，可以让模型在输出预测的同时，输出“我对此无知”的元判断。关键在于，这一判断的监督信号不应再是词元似然，而是命题真实性状态。模型在此被训练去执行一个认识论任务：识别某个查询是否落在自身可辩护的知识范围内。

这种训练使模型获得了一种基本的认识论校准能力：当信度低时，它可以主动表达“我不确定”，而不是强行给出高概率幻觉。

2. 认知边界的形式化：构建“知识轮廓”

不能仅仅靠模型的内省感，还需为它构建可操演的边界。一种路径是让模型学习一个可自身查询的知识边界函数：给定输入，模型不仅检索参数化记忆，也同时查询外部知识库、搜索引擎或结构化知识图谱。当模型内部表示与外部可靠源发生矛盾，或检索结果极其稀疏时，边界信号触发。这类似于人类遇到陌生领域时会查阅工具书或意识到“此处我不熟悉”。通过对比内部生成和外部知识，模型能够将模糊的“不知道”转化为可判定的“已知未知”。

更进一步，可以引入逻辑约束：在形式本体或规则系统支持下，模型可以检测自身知识中的逻辑缺口。例如，如果它“知道”A→B，但无法确认A的真值，这种缺环本身就能被表征为一种结构化的未知。这是对康德“理性为自然立法”的逆用：逻辑上的必要关联一旦出现缺失，就反向揭示了知识的有限性。

3. 元认知过程化：在生成中反思已知与未知

大模型不必仅在一次前向传播中完成认知决策。可以设计审思链：模型先生成初步回答，再以提示或单独模块的形式，对自己提问——“我的回答基于何种证据？”“训练数据中是否有明确支撑？”“我是否在推测？”然后据此修正输出。这类似于认知心理学中的“监测—控制”环路。通过强化学习，模型可以被训练得将“坦白无知”作为一种高价值策略，而非低概率备选。

在这条路径中，“未知边界”不再是一个静态的疆域，而是在每一次对话中动态生成的自我审查过程。当模型学会在适当节点主动说“这超出了我的知识范围”时，它就实现了从“无知而不自知”到“自知无知”的认识论飞跃。

四、走向可信的知识输出：谦逊的认识论姿态

确认未知边界，最终是为了让知识的输出变得可信。这需要确立一种新型的AI断言伦理——认识论谦逊。

可信输出不是追求“全知全能”，而是满足以下几个条件：

边界意识：当问题落在未知区域，模型必须明确拒绝或标记不确定性，而非虚假填充。

置信度透明：对于处在已知但不确定的领域，输出应附带校准后的置信度或证据强度标签（例如“高置信度/中等置信度/推测性”）。

来源可溯：关键断言应尽可能指明推理链条或知识来源，让接收者可以回溯检验。

可修正性：模型应显示它是可被证据纠正的，即承认自身知识的可错性。

这种输出姿态，其实对应着哲学上的可辩护的真信念传统，但又加入了当代知识论中的安全性条件：一个信念要成为知识，它必须不仅在现实世界为真，而且在邻近的可能世界也不易为假。大模型若想输出知识，就应当在其输出中编码这种对“邻近可能世界”的考量——即表达出“如果我错了，会是哪种证据不足”。

从设计上，这意味着未来的AI系统需要内建一个认识论瓶颈：所有对外断言都必须通过一个元认知过滤器，该过滤器评估断言的确定性、证据基础和边界定位。

这一过滤器的存在，使得AI从“语言的自发生成器”转型为“负责的认知行动者”。它不仅改变了用户体验，更在根本上改变了AI作为知识媒介的社会契约：AI被允许“有所不知”，这恰恰构成了它“所言可信”的前提。

结语：从“知”的独断到“知”的节制

“认识你自己”的德尔斐神谕，在AI时代有了新的回响。大模型的根本认识论困境，在于它被设计成了一个封闭的语言宇宙中的独断者，而缺乏怀疑主义式的内省机制。要突破这一困境，必须从哲学上重建AI的认知主体地位：让它具备区分现象与实在、已知与未知、可断言与应缄默的范畴框架。

这意味着，未来的AI训练不应再以“无所不能答”为最高价值，而应以“知道何时不答”为深层智慧。真正的可信智能，不是全知的神谕，而是恰如其分地知晓自身有限性的认识论谦逊者。 

支持单位：