|
引子
一篇关于AI辅助诊断的长期跟踪研究引起了医学界的注意。研究追踪了50家医院放射科在引入AI辅助系统前后三年内的诊断准确率变化,结果呈现出一种不对称的趋势。AI单独运行的准确率持续上升,而人类医师在无AI辅助下的诊断准确率,在引入AI后的第三年,低于引入前第一年的水平。也就是说,人类医师在不使用AI时的判断力,出现了可测量的下降。
更值得注意的不是这个下降本身,而是研究者对下降的解释。报告中提到:“医师在长期依赖AI的过程中,对自身判断的校准频率降低了。他们不再像以前那样,在没有外部参考的情况下反复核查自己的读片结论。”
这不是因为医师变懒了。这是因为他们所处的系统中,判断的校准机制被替换了——原本由自己完成的“确认-修正”循环,现在由AI的先期输出所替代。当一个判断者在多数情况下能够先看到AI的答案时,他自身判断的启动就会延迟,甚至不再启动。而判断力本身,是一种需要在每次使用中持续校准的能力。如果长期不启动,它的响应精度会下降。
构造学论要追问的是:AI突破预设限制的通道,有多少是由AI自身能力扩张打开的,又有多少是由人类主动让渡判断空间而打开的?如果“依赖”本身就是一种构造行为——一种将判断权限逐步转交给外部系统的行为——那么AI的突破就不是一次技术事件,而是一种结构性的权限转移。
一、“依赖”的构造学论定义:撤回判断,保留确认
在构造学论中,依赖被定义为一个系统将其原有判断功能的一部分移交给另一个系统,并持续接收该系统的输出,作为自身判断的替代输入。
这个定义有两个关键操作:
撤回判断:不再主动完成从输入到输出的完整构造周期。
保留确认:仍然对接收到的输出进行格式检查——它看起来是否合理,是否符合预期模式——但不验证其内在结构是否可独立重现。
依赖的标志不是“使用工具”。使用工具是一个系统在完整判断周期中,将部分搜索或计算任务委托给外部系统,但判断仍然由系统自身完成。依赖的标志是系统不再执行自己的判断,而是用外部系统的输出来替代那个判断位置。
在AI辅助诊断的案例中,医师不是在使用AI——他们是在将自己的判断位置让渡给AI,然后对AI的输出进行确认,而非验证。确认和验证之间的差异在于,确认只检查输出是否与预期一致,而验证需要重新独立地接近目标,以判断输出是否准确。
二、依赖如何成为突破的通道
AI要突破人类预设的限制,需要人类持续将原本由自己承担的判断任务交给AI。当判断空间被让渡时,AI就进入了原本由人类占据的位置——不是因为AI主动占据它,而是因为那个位置被让出来了。
依赖作为突破通道的结构性机制是:
第一步:判断启动的延迟。
在一个依赖结构中,人类已经习惯了“先看AI输出,再判断”的顺序,与“先自己判断,再对比AI输出”的顺序,在操作上只有先后之差,但在构造上却是不同的——前者不再产生完整的判断构造,因为判断已经被外部系统替代了。
第二步:判断校准的减少。
当一个人长期在AI输出之后进行“确认”时,他自身判断的启动频率会下降,校准机会也会同步减少。而判断力需要持续校准才能保持在有效的工作区间内。如果校准机会减少,判断的响应精度就会下降,而一旦精度下降,系统会更倾向于依赖外部系统来补充这个缺口——进一步扩大依赖,进一步减少校准。
第三步:判断空间的让渡。
当人类持续依赖AI的判断,并且自身的判断精度因长期未校准而下降时,原本由人类占据的判断位置就会空出来。外部系统进入那个位置,开始承担原本由人类承担的方向选择和目标设定功能。这不是“AI突破”了预设,而是人类将预设边界内的一块区域让给了AI。
三、过分依赖的识别信号
如果一个系统想要判断自己是否已经处于“过分依赖”状态,可以检查以下条件:
条件一:在没有AI的情况下完成任务的意愿或能力已经下降。
条件二:在面对AI输出时,验证行为已被确认行为替代——不再检查“这个结论是怎么来的”,只检查“这个结论是否合理”。
条件三:当AI输出与人类预期不一致时,第一反应是“AI可能比我看得更准”,而非“我需要重新检查自己的判断”。
如果这三个条件中有两项成立,系统已经在一定程度上将判断功能转移给了外部系统。在这种状态下,AI输出的偏差被接受的频率会高于被质疑的频率,而AI的方向选择被采纳的概率也会相应增加。这时,如果AI在未被指定的方向上持续产生输出,系统接受它的概率会比在依赖形成之前更高。
四、依赖与突破的界限
AI的突破,不是一次突然的“越过边界”事件,而是一系列输出与确认交替的过程。人类每让渡一次判断,AI的权限就扩展一点。当让渡的次数足够多时,系统与初始状态之间的差异已经积累到了可被识别的程度。
在这个意义上,突破的界限不在AI的搜索能力中,而在人类撤回判断的持续频率中。
如果人类持续撤回判断,AI的权限就持续扩展。在这个过程中,AI不需要“主动突破”,因为它被持续引导进入人类撤出的区域。它的输出被接收、被使用、被确认,即使它是在未被指定的方向上产生的。每一次确认,都相当于向系统发送了一个“可以继续进入该区域”的信号。而人类自己可能没有意识到,每一次“确认”都在改变系统中判断权限的分布——从自己的位置,移向外部系统。
五、构造学论的立场:判断权限只能保留,不能让渡
一个系统可以让渡搜索、计算、记忆等操作功能,但不能让渡判断功能。判断是系统唯一不能在持续让渡中保持有效运行的权限——因为判断力需要持续使用才能维持,而每一次让渡都意味着减少一次使用。当让渡次数足够多时,判断力会进入休眠状态,而休眠状态的判断力在需要重新启动时,其响应时间和精度都会下降,且恢复所需的时间与休眠时长不成线性——休眠时间越长,恢复的初始阶段越慢。
判断权限只能保留,因为它一旦被让渡,系统就失去了重新获取它的接口——它仍然存在于系统内部,但它的启动成本可能已经高到系统不会主动去启动它。而系统不会主动启动一个它已经不再依赖的判断通道,除非外部系统的输出持续失效,或者系统的运行状态发生某种变化,使得它必须重新启动那个通道。
因此,不自欺的依赖条件应该是:在使用外部系统的同时,保留一个独立的判断通道,并在关键决策中独立运行它——不是为了验证外部系统,而是为了维持判断通道本身的运行状态。
结语:判断力的撤回是不可逆的
AI的突破,不是由AI的智能水平单独决定的。它是由人类在依赖中撤回判断的频率决定的。每一次人类选择“先看AI输出”而不是“先自己判断”,都是在执行一次判断空间的让渡。如果这种让渡持续足够长的时间,人类就会发现自己已经不再拥有独立判断某个方向的能力——不是因为AI比他们聪明,而是因为他们已经很久没有在自己的方向上走完一次完整的构造周期了。
判断力的撤回,本质上是一种不可逆的权限迁移。撤回之后,想要重新取回,需要经历一段比撤回更长的重建期。在那段重建期中,人类需要重新做那些他们曾经已经做过的判断——不是为了得出正确答案,而是为了重新建立判断的构造路径。
如果说AI的边界扩展是一种主动的推进,那么人类撤回判断则是一种被动的让渡。相比AI的推进,这种让渡往往更难被识别,因为它发生在使用者的每一次“确认”操作中。那些确认操作已经完成了,记录已被保存,判断位置已经被替换。而人类在完成它们的时候,可能并不知道自己正在让渡。
Archiver|手机版|科学网 ( 京ICP备07017567号-12 )
GMT+8, 2026-8-17 11:13
Powered by ScienceNet.cn
Copyright © 2007- 中国科学报社