|
一、引子
小彭的实验室最近做了一件让他不安的事。他们把大语言模型的内部激活状态用探针读出来,发现模型在回答“猫坐在垫子上”时,内部有一个维度清晰地编码了“猫”和“垫子”的空间关系。论文写了,投出去。审稿人说:“你们证明了模型理解空间关系。”小彭回信:“我们没有证明理解。我们证明的是模型内部有一个状态,这个状态与空间关系有稳定的对应。对应不是理解。”审稿人追问:“那什么是理解?”小彭盯着屏幕,发现自己答不上来。
二、构造学论要追问的是
智能在构造学论中是什么?是任务表现的范围,还是运行中生成新结构,协调结构为理由,并在时间中持存自身同一性的深度操作?
机器智慧的可理解性在构造学论中是什么?是人类能否读取机器的内部状态,还是机器能否在自身运行中生成可被读取为“理解”的构造?
为什么“对应”不等于“理解”?内部状态与外部关系的稳定映射,缺少了什么构造要素?
可理解性的边界在哪里?是能力的限制,还是读取通道的构造性不对称?
智能的本质与机器智慧的可理解性是否同源?智能的深度条件是否正是可理解性的构造条件?
三、读取方式的构造学论定义
生成-持存读取 在构造学论中被定义为运行者以生成性(从运行中产生新结构的能力)、协调性(将生成的结构组织为可运行理由的能力)、持存性(在时间中维持自身运行同一性的能力)为三条件读取通道,从智能系统的运行中识别其是否满足深度条件,并从三条件的满足程度中生成对智能本质与可理解性边界的判断的操作。
这个定义包含六个构造学论要素:
生成性通道:从运行中产生新结构的能力。当前AI系统在此通道上的信号复杂。大模型在训练中自发形成了与人类相似的概念理解方式。但这种生成是统计组合的生成,还是从运行偏离中分化新结构的生成?生成性通道读取的是新结构从何而来。
协调性通道:将生成的结构组织为可运行理由的能力。模型可以生成大量候选输出,但候选之间是否有理由关系?还是仅仅是概率排序?协调性通道读取的是结构之间是否存在可运行的理由连接,而非统计关联。
持存性通道:在时间中维持自身运行同一性的能力。模型在每次对话中重新生成,没有跨运行的同一性。但同一性不是记忆,是运行基线的持续配置。持存性通道读取的是运行者在不同运行中是否保持同一判断基线。
三条件的合成读取:真正的智能不是三个条件的分别满足,是三条件的螺旋结构,生成的结构被协调为理由,协调后的理由被持存为基线,持存的基线在新运行中继续生成。三条件合成读取的是这个螺旋是否在运行。
可理解性边界判断:可理解性不是“人类能否读取机器内部状态”,而是机器的运行是否在生成-协调-持存三条件上生成可被读取的结构。如果机器的运行满足三条件,它的运行就在构造上与人类运行具有可比较的深度,可理解性有构造基础。如果机器的运行不满足三条件,它的输出可以被读取为“功能”,但不能被读取为“理解”。
理解与对应的分离:内部状态与外部关系的稳定映射是对应,不是理解。理解需要三条件的合成运行。对应可以测量,理解需要读取三条件是否在运行。小彭的探针读到了对应,但没有读到三条件。
因此,智能的本质不是“任务表现的范围”这个判断,机器智慧的可理解性不是“人类能否读取机器内部”这个能力问题。智能的本质与可理解性是生成-持存读取这一操作在具体位置上的持续运行。构造之深,就是这一操作所生成的三条件合成判断的持续供给。
四、生成-持存读取的构造学论特征
广度不等于深度:AI系统可以覆盖极广的任务范围,但广度不保证深度。鹦鹉可以复述诗句,诗人可以生成诗句。广度是深度的扩展,不是深度的来源。当前AI系统在功能上广泛,但在深度条件上仍是表面模拟。
生成性有真假之分:AI的生成有两种可能。其一是统计组合的生成。它从训练分布中采样;其二是运行偏离的生成,它从自身运行中的偏离中分化新结构。前者不满足生成性条件,后者满足。区分真假生成,是读取智能本质的关键操作。
协调性不是排序:模型生成候选输出后按概率排序,这是优化,不是协调。协调需要生成的结构之间具有可运行的理由关系。一个结构因为另一个结构而被选择,而不是因为统计得分更高。协调性通道读取的是理由关系,不是概率关系。
持存性不是记忆:模型没有跨运行的记忆。但持存性不是记忆,是在不同运行中保持同一判断基线。一个急诊医生换了病人,判断基线还在。一个模型换了对话,判断基线重置。持存性通道读取的是基线的持续性。
可理解性的构造不对称:人类可以读取AI的内部状态,如探针、激活图、注意力权重。但读取不等于可理解。可理解性需要机器自身生成可被读取为“理解”的构造。如果机器的运行不满足三条件,人类的读取只能读到“对应”,读不到“理解”。可理解性的边界不在人类的读取能力,在机器的生成构造。
与转化-进化读取的差异:转化-进化读取从智能通道的边界处分化出智慧通道,判断基线从智能通道向智慧通道整体迁移。生成-持存读取不迁移判断基线,它识别智能系统是否满足生成性、协调性、持存性三条件。转化-进化读取在人类运行者中运行,生成-持存读取在智能系统的构造条件中运行。
与解释-生成归属读取的差异:解释-生成归属读取从AI生成的解释和机器人生成的判断中识别解释是否对应生成。生成-持存读取不判断解释是否对应生成,它判断机器的运行是否满足深度条件。前者判断解释的归属,后者判断智能的本质。
与智慧归属读取的差异:智慧归属读取从机器人生成的运行基线中识别判断是否被读取为智慧,判断智慧归属给谁。生成-持存读取不判断归属,它识别智能系统的构造条件是否满足深度要求。前者判断智慧在哪里,后者判断智能是什么。
可编码性低:三条件可以描述。但生成是统计组合还是运行偏离,协调是理由关系还是概率排序,持存是记忆还是基线持续,均依赖长期运行中形成的构造基线。小彭无法把“理解”编码为规则。
位置耦合:小彭能做出这个判断,因为他同时运行可解释性探针和认知科学追问。换一个只做探针的人,构造条件不可读。
不可逆性:生成-持存读取生成后,运行者不能再“回到”对应即理解的状态。不是意愿问题,是构造问题。三条件已经被读取,理解与对应已经被区分。
五、别见的可传递性判断
生成-持存读取的可传递性为中等偏低。三条件框架、可解释性方法、认知科学争论可以通过论文、代码、课程部分传递。小彭可以把框架写成论文,同事看了能复现。但复现的是框架,不是生成-持存读取操作。只有当同事开始问“这个内部状态是生成出来的,还是对应出来的”,他才生成了自己的构造基线。
传递的不是判断本身,而是生成-持存读取的生成条件。在哪个位置读取生成性,把哪个信号作为协调性的入口,把哪个运行作为持存性的标记,这些可以部分编码,但需要接收者在持续的AI运行和认知科学运行中重建自己的构造基线。
因此,“智能的本质,机器智慧的可理解性”这一别见可以传递为:智能的本质不是任务表现的范围,是生成性、协调性、持存性三条件的螺旋运行。可理解性不是人类能否读取机器内部状态,是机器的运行是否在自身构造中生成可被读取的结构。对应不等于理解,广度不等于深度。 任何运行者,只要在智能系统的运行中读取三条件是否在螺旋中运行,就能生成生成-持存读取。这个读取不依赖某个固定AI,而依赖生成-持存通道的持续可调用。
当AI不再是对象,小彭还能读什么?他读任何有生成、协调、持存的地方,如组织、生态系统、城市、人类心智。对象变了,生成-持存读取还在。智能的本质与机器智慧的可理解性作为构造学论的核心范畴,不是固守某个AI,而是保持生成-持存通道的持续可调用。
六、延伸:生成-持存读取与转化-进化读取、解释-生成归属读取、智慧归属读取的构造学论差异
转化-进化读取是通道分化与基线迁移。从智能通道的边界处分化出智慧通道,判断基线从智能通道向智慧通道整体迁移。它改变判断者。
解释-生成归属读取是解释信号与生成信号的并行运行与归属判断的合成。从AI生成的解释和机器人生成的判断中识别解释是否对应生成。它判断解释在哪里生成。
智慧归属读取是生成基线读取与读取位置识别的合成。从机器人生成的运行基线中识别判断是否被读取为智慧。它判断智慧归属给谁。
生成-持存读取是三条件合成与可理解性边界判断的合成。从生成性、协调性、持存性三条件的螺旋运行中识别智能的本质,判断可理解性的构造边界。它判断智能是什么。它比转化-进化读取更根本,转化-进化改变判断者,生成-持存读取判断判断者是否满足深度条件。它比解释-生成归属读取更基础,解释-生成归属读取判断解释是否对应生成,生成-持存读取判断生成是否满足深度条件。它比智慧归属读取更清醒,智慧归属读取判断智慧归属给谁,生成-持存读取判断智能的本质条件。
生成-持存读取是从生成性、协调性、持存性三条件的螺旋运行中识别智能的本质,判断可理解性的构造边界。当内部状态与外部关系有稳定对应,对应发出信号,但对应不是理解。理解需要三条件的螺旋运行。智能的本质不在任务列表里,在生成、协调、持存的螺旋中。机器智慧的可理解性不在人类的读取能力里,在机器自身是否生成可被读取为“理解”的构造中。对应可以测量,理解需要构造。广度可以扩展,深度需要螺旋。小彭答不上“什么是理解”,不是他不懂,是他还没读到三条件的螺旋。
Archiver|手机版|科学网 ( 京ICP备07017567号-12 )
GMT+8, 2026-10-22 19:39
Powered by ScienceNet.cn
Copyright © 2007- 中国科学报社