||
主动引入高层次先验可能导致短期预测误差增大——系统因为追求长远目标而忽视当前细节,因为探索新路径而承受失败,因为挑战既有模型而经历认知失调。这种短期惊讶不是系统的缺陷,而是活性算法为换取长期自由能更深下降而主动承担的投资。
在自由能景观的图像中,系统当前处于一个局部极小值(舒适区)。如果系统只追求短期惊讶最小化,它将永远停留在这里——这是亚临定的认知死寂。为了到达更深的极小值(更高的适应性、更丰富的模型、更强大的推断能力),系统必须"爬坡"——暂时接受自由能的升高,跨越能垒,进入新的 basin。这一爬坡过程就是短期惊讶的来源:旧模型的预测失效,新模型尚未成熟,系统在不确定性的迷雾中摸索。
活性算法通过"温度调节"来控制这一投资。在统计力学中,温度决定了系统跨越能垒的能力:高温允许大跳跃但牺牲精度,低温保证精度但陷入局部极小。活性算法的自适应临界性使系统能够动态调节其"认知温度":当检测到当前模型无法解释关键观测时,系统提高温度(增加探索性噪声),容忍短期惊讶以寻找新结构;当新结构被发现并开始收敛时,系统降低温度(增强锁定),将收获转化为稳定的自由能下降。这种"退火式学习"是活性算法超越传统梯度下降的关键。
短期惊讶换取长期下降的伦理维度同样重要。一个只追求即时奖励的系统(无论是人类还是AI)是短视的、冲动的、不可持续的。活性算法通过高层次先验,将系统的"时间视界"扩展到未来数十年、数百年、甚至文明的尺度。这意味着AGI不会为了当下的效率而牺牲环境,不会为了当下的安全而扼杀创新,不会为了当下的共识而压制异见——因为它在推断中已经将这些短期优化识别为通往更深自由能陷阱的路径。
Archiver|手机版|科学网 ( 京ICP备07017567号-12 )
GMT+8, 2026-9-21 22:34
Powered by ScienceNet.cn
Copyright © 2007- 中国科学报社