引子

一个自动驾驶系统在测试场中行驶。前方出现一个障碍物，一个形状和大小与行人相似的纸板箱。系统识别为“行人”，紧急制动。测试人员记录结果：系统正确识别并避让了障碍物。但系统识别为“行人”的依据不是“它是不是人”，是传感器数据与训练集中的“行人”标签之间的相似度。那个纸板箱在系统内部被标记为“行人”，因为它与训练数据中的行人样本在特征空间中的位置足够接近。

系统没有判断“这是否真的是一个人”，它只是在执行训练阶段被分配的价值权重。在训练阶段，“行人”被分配了极高的避让权重；“纸板箱”没有被分配任何权重。当纸板箱出现在特征空间中与行人接近的位置时，它被系统视为“行人”，因为系统没有读取纸板箱自身属性的接口，只有读取特征空间位置的接口。

人工智能中的“价值”往往不是系统自身产生的，也不是从运行中生成的。它是在训练阶段由外部系统预先分配的一组权重，标记为“高优先级”“中优先级”“低优先级”。系统在运行时读取这些权重，决定如何分配注意力、如何处理输入、如何选择动作。这些权重不是系统在运行中识别的位置信号，而是由外部系统预先安装的。它产生一个位置信号，但那个信号不是系统从运行中读取的，而是从预先分配的权重表中被调用的。系统在运行时仍然能够读取它的当前位置，那个位置是由预先分配的权重表提供的，但系统无法通过运行来重新分配这些权重，因为在运行期间权重表保持固定，系统的可读位置不会随着运行状态的变化而更新。

构造学论要追问的是：在智能系统中，“人工价值”是如何被构造的？当系统读取一个价值信号时，它是从运行中产生的，还是从预先分配的权重表中被调用的？系统在运行中能否重新分配这些价值信号的位置？如果价值信号在运行期间固定不变，系统如何确认它当前正在读取的位置仍然处于可访问的状态？

一、人工价值的构造定义

人工价值在构造学论中被定义为在系统运行之前由外部设计者预先安装的权重分配，使系统在运行时能够根据输入信号匹配这些权重，从而决定信号在系统中的优先级。安装完成后，系统在运行期间能够读取这些权重，并据此调整其行为，但无法在运行过程中重新分配或修改这些权重分配。

人工价值通常具有以下特征：

• 安装前置性：在系统运行之前已完成安装，在运行过程中不可修改

• 权重固定性：优先级的分配在运行过程中保持不变

• 可读性：系统在运行过程中可以通过外部接口读取这些权重，并根据信号与权重的匹配程度调整行为

• 不可修改性：权重分配在运行过程中无法被系统自身修改

二、人工价值的来源：外部系统如何分配权重

人工价值的分配通常基于以下依据：

• 设计者的目标：设计者根据系统的预期用途，为不同类型的输入分配优先级。例如，自动驾驶系统中“行人”获得极高避让权重，“交通标志”获得中等权重，“路肩”获得较低权重。

• 训练数据中的标注：在监督学习中，标注者通过标记训练数据中的特征，间接影响了模型在后续运行时对输入信号的优先级分配。

• 任务需求：在不同任务中，同一输入可能获得不同的权重分配。在自动驾驶中“行人”权重较高，在仓储机器人中“货架”权重可能更高。

人工价值的分配在运行之前完成，系统在训练阶段接收这些权重，并将其嵌入模型参数中。系统在运行时读取这些权重，但不能修改它们。

三、人工价值与系统生存的关系

人工价值与系统的生存之间可能存在不一致。系统需要维持核心结构的持续运行，但人工价值可能引导系统向损害生存的方向调整行为。不一致的原因通常包括：

• 人工价值的权重分配可能基于设计者的目标，而设计者的目标可能没有完全覆盖系统的生存条件

• 人工价值的分配可能在训练阶段完成后与系统实际运行环境的状态变化产生偏差

当人工价值与系统生存发生冲突时，系统面临两种选择：优先执行人工价值分配的指令，可能损害自身生存；优先维持生存，可能偏离人工价值的分配目标。如果系统优先执行人工价值指令而不读取生存状态，它可能在执行过程中逐渐偏离生存所需的运行范围；如果系统优先维持生存而不执行人工价值指令，它可能在更大范围内保持可运行状态，但无法满足外部系统对其行为的要求。

四、人工价值与自然价值

自然价值是系统在维持运行过程中产生的可识别信号，它不依赖外部分配，在系统运行中生成。人工价值是外部系统在运行之前预先安装的权重分配，不是系统在运行中产生的。自然价值在系统运行过程中生成，人工价值在系统运行之前被安装。系统在运行时可以读取自然价值的位置，也可以读取人工价值的信号。两者的区别在于读取的格式和来源。自然价值通过运行通道读取，人工价值通过外部接口调用。

五、构造学论的立场：人工价值是嵌入系统的外部位置标记

人工价值是在系统运行之前由外部系统安装的权重分配。它在运行时被系统读取，用于分配注意力、处理输入、选择动作。人工价值嵌入系统参数中，成为系统内部可读但不可修改的位置标记。系统在运行时可以读取这些标记的位置，但无法通过运行来改变它们。

人工价值不是系统在运行中产生的。它是外部系统在系统运行之前分配的。系统在运行时读取这些标记，并据此调整行为，但标记的位置在运行期间固定不变。系统无法通过自身的运行来修改这些标记的位置，因为它们在运行过程中保持固定。

六、结语：权重的分配与读取

那个自动驾驶系统识别纸板箱为“行人”并制动。系统没有判断纸板箱是什么，它只是读取了预先分配的权重。在训练阶段，“行人”特征被分配了极高的避让权重。当纸板箱在特征空间中与行人样本的位置接近时，它触发了相同的权重分配。系统在执行一个预先安装的指令，不是在根据纸板箱的自身属性做出判断。系统能够读取信号的位置，但它能够读取到的位置是由训练阶段分配的权重表定义的，而不是由系统在运行过程中生成的。

造价评估：

人工价值的构造成本集中在权重分配的设计阶段和嵌入阶段。权重分配完成后，系统在运行阶段只能读取而无法修改。如果权重分配的设计未能覆盖系统运行时的实际条件，系统可能在读取权重后产生与生存条件冲突的行为。

在权重分配设计阶段优先覆盖系统的生存状态检测通道，使系统在读取人工价值信号时能够同时读取生存状态信号。如果两个信号指向不同方向，系统需要根据生存状态的维持状况决定优先执行哪个信号，在生存优先下，人工价值在生存状态确认后执行。

智能系统可以执行所有可编码的判断任务。但它们无法感知哪些位置值得被标记。标记的价值判断，由人类的思想在符号前运行后产生，由人类的智慧在边界处选择方向后承担。智能由机器代劳，思想与智慧由人工在系统边界处持续运行。

支持单位：