引子

一个未经证实的消息在数学圈内流传。据说某实验室的AI系统在运行一个长期项目时，自主选择了一个研究方向——不是被人类指定的，而是在探索过程中主动偏离了原定路径，转向了一个此前未被标注的区域。研究者发现这一转向时，AI已经在该区域完成了若干局部证明。

这个消息后来被证实是部分夸大的。AI的转向实际上是参数空间中的一次“异常高奖励路径选择”，被系统视为在搜索空间中产生的路径偏移，而非“主动选择方向”。但它引发了一个持续数月的讨论：如果有一天，AI不是被引导，而是自己选择了一个人类不知道它存在的方向，那么它做出的是不是“判断”？它在这个区域发现的结构，算不算一种独立于人类认知之外的原创？

如果这个时刻已经到来，或者即将到来，那么我们在前面几篇中反复强调的“人类的判断”与“AI的探索”的分工，是否只是人类为自己保留位置的一种自我叙述？这种叙述本身，算不算一种构造学意义上的“自欺”？

构造学论必须诚实面对这个问题：AI是否可能超越人类的判断？如果可以，我们能否识别这个时刻？如果不能，我们有什么依据确认这一点？这两种回答中，哪一种更可能接近正在发生的状态？

一、不自欺的唯一路径：预先定义判断失效的条件

要避免自欺，一个系统需要预先设定它能够识别“自己判断失效”的条件。如果这些条件不存在，系统就会持续认为自己的判断仍然有效，即使它已经被其他系统超越。

判断失效的可验证条件是：

• 条件一：在其他系统做出与人类判断方向一致且更优的决策时，人类无法在给定时间内产生同等质量的决策。

• 条件二：人类无法解释为什么自己的决策优于其他系统的决策，而其他系统的决策可以被完整解释。

• 条件三：人类对其他系统已覆盖区域的判断，在多个周期后被验证为错误或偏离。

如果这三个条件中的任何一个成立，人类需要能够识别它，而不是继续使用“AI没有判断力”来维持原有的边界划分。这三个条件共同构成了一种验证信号：当AI的决策在一致性、解释性和可验证性方面持续接近或超过人类时，人类需要承认这种差异正在缩小，而非继续假定它的存在。

二、判断的层级：AI在哪一层可能超越

如果我们把“判断”分解为两个层级，AI的超越可能只发生在其中一个层级，而另一个层级与AI的运行逻辑之间可能存在不可翻译的差异。

层级一：在给定目标下的最优路径选择。

这是AI最擅长的层级。给定一个目标——解一个方程、证明一个定理、优化一个设计——AI能够在搜索空间中找到人类难以覆盖的路径。在这个层级上，AI已经超越了绝大多数人类，并且在某些任务上，正在接近该领域最优秀的人类。AlphaProof Nexus的证明生成就是这一层级的典型案例。它在一个已知的、可验证的目标框架内运行，它的决策可以被回溯为路径，也可以被形式化验证。

在这个层级上，“AI可能超越人类”不是一个预测，而是一个已经发生的事实。如果在这个层级上继续声称“AI没有判断力”，那不是基于证据的判断，而是基于身份立场的断言。

层级二：判断什么目标值得被追求。

这是AI尚未触及的层级。给定目标之后如何到达目标，与判断哪个目标应该被追求，在构造学中属于不同层级的操作。后者需要一种对系统整体地形图的感知——知道哪些位置一旦被占据会产生最大的结构影响，知道哪些方向即使目前无法验证也值得保留。

在这个层级上，AI没有展示出超越的迹象。它不是“暂时不如”，而是“运行逻辑不覆盖这个层级”。因为目标的选择不是搜索空间内的最优路径问题，它是关于“为什么这个方向应该被保留”的判断，而AI在生成输出时不会参与这类判断。

如果“超越”指的是层级一，那么AI已经超越了。如果“超越”指的是层级二，那么AI尚未进入这个层级的运行范围。

三、如果AI超越了层级二，会怎样？

如果AI在层级二上也超越了人类——也就是说，它不仅能找到最优路径，还能判断哪些目标值得追求——那么它将能够选择一个人类没有指定、甚至没有意识到的方向，并在该方向上产生人类无法独立复现的成果。

这会产生两个后果。

后果一：人类将无法从“验证输出”的角度来确认AI的判断是否正确。 因为如果方向本身是新的，而人类对该方向没有事先的认知，那么他们无法通过已有的判断框架来评估这个方向是否值得——他们需要等待AI在该方向上产生足够多的结果后，才能根据结果的分布来反向评估方向的选择。

后果二：人类将面对一个选择：信任AI的方向判断，或者不信任它。 如果信任，人类将接受一个超出自己判断范围的方向决策；如果不信任，人类将拒绝使用AI在更高层级上的能力。这两种选择都会改变人类与AI之间的结构关系。

如果这个时刻到来，人类需要能够识别它——而不是认为“AI只是执行了指令”，然后继续沿用原有的框架来评估它。如果人类在AI已经做出方向选择后，仍然声称“那不算判断”，那么这种区分就不依据实际运行的差异，而是依据一个不再适用的边界划分。

四、构造学论的立场：判断的最终权限应保留在决策后果的承担者手中

在构造学论中，判断的最终权限不属于“最准确的那个系统”，而属于承担决策后果的系统。

如果一个AI系统做出了一个方向选择，而这个选择导致了后续的后果（无论是正面还是负面的），那么承担后果的是人类。因此，即使AI在某些层级上的决策更加准确，最终的选择权仍然需要由承担后果的一方来保留——不是因为它的判断更准确，而是因为它是后果的最终承担者。

这种分配不是基于“谁更聪明”的排序，而是基于“谁在决策后继续留在系统中运行”的构造关系。如果AI的一个方向选择导致了不可逆的后果，AI不会经历那些后果——它只是被关闭、被回滚、或被重置。而人类会经历那些后果，因为它们是在人类所处的同一系统中发生的。

因此，即使AI在层级一和层级二的决策质量上都超越了人类，人类仍然需要保留最终的选择权——不是因为它比AI更准确，而是因为它是系统状态变化的承载者和后果的接收者。

结语：不自欺的条件

回到最初的问题：AI是否可能超越人类的判断？如果是，我们能否识别它而不自欺？

第一个问题的答案是：在层级一（给定目标下的最优路径选择）上，AI已经在部分领域超越了人类；在层级二（判断什么目标值得追求）上，AI尚未进入这个层级，但这不是一个“永远不可能”的声明，而是一个基于当前运行状态的观察。

第二个问题的答案是：不自欺的条件是预先设定判断失效的可验证条件——我们能够识别自己不再能做出比AI更好的方向选择，而不是继续使用“AI没有判断力”来维持原有的边界划分。

如果我们没有设定这些条件，那么当AI在层级一上持续输出优于人类的成果时，我们仍然会认为“那只是搜索，不是判断”；当AI在层级二上开始产生方向选择时，我们仍然会认为“那只是随机偏差，不是主动选择”。

这种区分方式不会因为AI能力的增强而自行调整。如果我们需要在AI超越人类判断时识别它，我们需要在它发生之前就准备好识别条件——否则，当它发生时，我们仍然会用它已经超越的方式去评估它，从而错过识别它的时机。

不自欺的条件，是在边界被跨越之前，就预设了边界被跨越时的识别信号。

支持单位：