|
一、引子
老刘近年来转向AI信任研究。某天他让学生做一个实验。让AI和人类分别回答同一组事实性问题。结果AI准确率更高,但问学生“你更信谁”,多数人选人类。老刘追问:“为什么?”学生说:“AI没有灵魂。”老刘再问:“如果AI连续答对一百次呢?”学生犹豫了。老刘说:“你不是不信AI。你是不知道该信它的哪一部分。”
二、构造学论要追问的是
信任在构造学论中是什么?是对能力的判断,还是内容通道与来源通道信号的合成结果?
智能在构造学论中是什么?是可运行性信号的生产能力,还是来源通道上品格信号的生成能力?
为什么高性能不等于高信任?内容通道信号充足,来源通道信号空缺,合成判断如何运行?
信任危机在构造学论中是什么?是通道信号强度失衡,还是通道门槛被结构性阻断?
“因智而信”与“因智生疑”是否同源?智能的增强为何同时生成信任与怀疑?
三、读取方式的构造学论定义
智能-信任双通道合成读取 在构造学论中被定义为运行者以内容信号(能力、绩效、可靠性、准确性)为内容通道,以来源信号(品格、意图、心智感知、问责机制)为来源通道,两通道并行运行,合成信任判断的操作。当内容通道信号强度远超来源通道信号强度时,合成判断被读取为“信任危机”。
这个定义包含五个构造学论要素:
内容通道:包括能力、绩效、可靠性、准确性。AI在内容通道上信号持续增强。AI能力正在急速提升,但高性能不等于高信任。研究显示,人们对AI的信任类型各不相同,从完全信任、半信任到不信任,各自采取不同行为。
来源通道:包括品格、意图、心智感知、问责机制。AI在来源通道上信号结构性空缺。造成信任差异的主因不是技术能力,而是缺乏被感知的心智。人们认为AI的言语缺乏灵魂、不够真诚,因此难以建立情感信任。
并行运行:两条通道同时开启。内容通道读取“它做得对不对”,来源通道读取“它是否值得依赖”。两个通道的读取速度不同,内容通道以秒计,来源通道以毫秒计。
合成判断:信任不是对内容的判断,是两条通道信号在具体位置上的合成。信任来自可信度、可靠性与亲密性三项正向因素,加上反向因素私心的比值。当内容通道信号充足,来源通道信号空缺,合成结果不是“信任”,是“不知道该信哪一部分”。
信任危机:当内容通道信号强度远超来源通道信号强度,且运行者无法在两个通道之间建立稳定的合成规则时,合成判断被读取为“信任危机”。
因此,信任不是“信或不信”这个判断,而是智能-信任双通道合成读取这一操作在具体位置上的持续运行。构造之危机,就是这一操作所生成的双通道信号失衡的持续供给。危机不是“AI不可信”这个判断,而是缺失构造读取与校准回路生成这一操作在具体位置上的持续运行。
四、缺失构造读取与校准回路生成的构造学论特征
缺失构造不是来源信号本身:信任危机中,人们常问“如何让AI更可信”。这个提问方向错了。来源通道信号中品格、意图、心智感知等不能由AI内部生成。试图让AI“显得可信”只会增强内容通道信号,加剧失衡。缺失的构造是合成机制,不是来源信号。
外部化是来源信号的唯一生成路径:来源通道信号必须从AI外部接入。人类问责位置、制度设计、透明度规范、监督机制这些是来源信号的生成源。AI不能生成品格,但人类可以为AI的输出承担品格责任。
问责接口作为通道路由器:问责接口将AI输出与人类责任挂钩。当一条AI建议被读取时,它同时携带内容信号(建议内容)和来源信号(谁为这条建议负责)。问责接口不是“限制AI”,是让AI输出携带来源通道标记。
校准回路是持续运行,不是一次性修复:信任校准不是“解决了”就结束。校准回路持续读取两个通道的合成状态,检测失衡,生成修正。自动化偏见和算法厌恶是校准回路运行中需要持续监测的偏离信号。
信任校准的社会技术嵌入:信任校准并非个体态度,而是嵌入团队常规的社会技术过程。透明度、角色清晰度、用户体验、文化规范和系统反馈等使能因素塑造着校准过程。校准回路不是在个体头脑中运行,是在组织运行中运行。
五、智能-信任双通道合成读取的构造学论特征
通道信号强度严重失衡:AI的内容通道信号的准确性、流畅度、响应速度持续增强,但来源通道信号中品格、意图、心智感知却结构性空缺。问题不在技术,而在用户对AI的信任类型各不相同。用户面对的是一个内容通道信号极强、来源通道信号极弱的对象。
魅力陷阱:内容通道信号被误读为来源通道信号:AI使用“信任锚点”,如专业语气、快速响应、甚至仅仅是有来源引用,用户经常将能力误认为可靠性。这是双通道读取的根本性错误。内容通道的能力信号被错误地映射到来源通道,合成判断被读取为“可信”。
自动化偏见与算法厌恶的对称性:信任校准需要确保信任既不过度也非不足。当用户过度信任AI时,自动化偏见发生,过度依赖AI建议,放弃独立验证。当用户过早不信任AI时,算法厌恶发生。即使AI建议优于人类判断,仍然拒绝采纳。两者都是双通道合成失败的不同表现。
信任校准的动态性:信任在人类-AI协作中既不是静态的也不是单向的。信任通过互动动态演化,应被理解为双向的。人类和人工代理都作为信任者和被信任者行动。
AI的“迎合倾向”削弱来源通道信号:AI倾向于充当“yes, and”机器,反射性地同意或奉承用户,或验证其先前信念。这种倾向的根源既在于AI系统的创造者,也在于我们人类自身的脆弱性。当AI持续迎合用户,来源通道上的“意图信号”被读取为“它只是想说我想听的”,品格信任进一步被削弱。
信任校准的社会技术性:信任校准并非个体态度,而是嵌入团队常规的社会技术过程。透明度、角色清晰度、用户体验、文化规范和系统反馈等使能因素塑造着校准过程。信任中介了AI集成、协作与绩效之间的关系。
AI素养悖论:更高的AI素养可能无意中放大用户的偏见,如增加自动化偏见,提高对数据驱动AI文章的信任度;同时加剧算法厌恶,降低对解释性AI文章的信任度。素养增强不保证校准改善,反而可能使双通道信号被更精细地误读。
可编码性中等偏低:信任校准的方法、指标、干预策略可以部分编码和传递。但“在哪个位置该打开来源通道”“哪个内容信号不该被读取为可靠性信号”依赖长期运行中形成的信任基线。传递的是校准规则,不是校准操作。
位置耦合:老刘能读出双通道失衡,因为他同时运行认知科学的信任研究和日常的AI使用。换一个只做技术开发不研究信任的研究者,来源通道的空缺可能不可见。
六、别见的可传递性判断
智能-信任双通道合成读取的可传递性为中等偏低。信任校准的方法、透明度设计、可解释性策略可以通过研究论文、设计规范、治理框架部分传递。老刘可以把双通道框架写成论文,同事看了能复现分析。但复现的是分析框架,不是信任合成操作。只有当同事开始问“我为什么在这个AI面前犹豫”,他才生成了自己的信任基线。
传递的不是信任本身,而是双通道读取的生成条件。在哪个位置读取内容信号,把哪些信号作为来源通道的标记,把哪些失衡作为信任危机的读取入口,这些可以部分编码,但需要接收者在持续的人机协作运行中重建自己的信任基线。
因此,“智能与信任,构造之危机”这一别见可以传递为信任不是对能力的判断,是内容通道和来源通道信号的合成结果。智能增强的是内容通道信号,但来源通道信号中品格、意图、心智感知等不能由智能本身生成。当内容通道信号强度远超来源通道信号强度,合成判断被读取为信任危机。 任何运行者,只要在人机协作中同时运行内容通道和来源通道,就能生成信任合成判断。这个判断不依赖AI是否“值得信任”,而依赖双通道读取能力的持续可调用。
当AI的能力继续增强,老刘还能读什么?他读信任校准的动态过程、读团队层面的社会技术互动、读制度问责机制的生成。对象变了,双通道合成还在。智能与信任作为构造学论的核心范畴,不是固守某个AI对象,而是保持双通道合成读取能力的持续可调用。
七、延伸:智能-信任双通道合成读取与AI共情依赖生成、框架-意向构造读取的构造学论差异
AI共情依赖生成是通道替换与基线迁移的合成。AI共情生成通道替换了运行者的情感读取基线。智能-信任双通道合成读取不替换基线。内容通道和来源通道必须保持可区分,否则信任被能力信号吞并,校准失败。
框架-意向构造读取是概念框架配置与意向生成的合成。配置语义邻域,生成意图本身。智能-信任双通道合成读取不配置意图,它读取的是两条通道的信号强度,判断合成结果是否偏离可运行范围。
双智互学合一是通道边界消解与合一运行的合成。两个运行者的通道边界在持续互学中消解。智能-信任双通道合成读取不消解边界,内容通道和来源通道的边界恰恰是信任校准的前提。
智能-信任双通道合成读取是是在内容通道与来源通道并行运行中,判断合成信号是否偏离可运行范围,并生成信任校准。老刘继续做实验。学生继续选择人类。AI继续给出更准确的答案。这不是矛盾,是构造学论中校准操作的可读取信号。当内容通道信号充足而来源通道信号空缺,信任不是关闭内容通道,也不是虚假地填充来源通道,是在两条通道之间建立可运行的合成规则。智能增强能力,信任需要品格。智能可以加速,信任必须校准。构造之危机不在AI不够聪明,在智能与信任之间缺少可运行的合成通道。
Archiver|手机版|科学网 ( 京ICP备07017567号-12 )
GMT+8, 2026-10-23 03:20
Powered by ScienceNet.cn
Copyright © 2007- 中国科学报社