水岸长桥的个人博客分享 http://blog.sciencenet.cn/u/whatsothus 力所能及,至微至远,无可替代,至善至美。让学习成为一生成长的快乐习惯!

博文

构造学论之造价录系列(1):检测的递归——当AI被用来检测并消除AI时,系统在做什么

已有 47 次阅读 2026-8-17 22:34 |系统分类:观点评述

引子

一所大学的研究团队开发了一个AI系统,专门用来检测其他AI生成的文本。他们训练它区分人类写作和机器写作,准确率达到99%。然后他们把这个系统部署到教育系统中,用来检测学生是否使用AI完成作业。学生很快发现了漏洞。他们使用另一个AI来改写AI生成的文本,以绕过检测。检测器升级,改写器升级。两条系统在持续迭代中相互跟踪对方的更新。检测系统在检测中被持续重新训练,生成系统也在生成中持续调整输出格式。

一个研究者问:“如果检测AI的AI本身也是AI,我们是不是在用AI对抗AI?如果我们消除了所有AI,我们用什么来消除?”

构造学论要追问的是:“用AI检测AI”是一个有效的策略,还是一种递归的结构困境?当系统试图用AI来消除AI时,它是在解决一个问题,还是在制造一个更大的问题?如果消除AI本身也需要AI,那消除的目标是否还能保持稳定?

一、检测者与被检测者的同一层级

在一个系统中,检测者通常被设计为比被检测者处于更高的层级。检测者可以检查被检测者的状态,而被检测者无法检查检测者的状态。但当检测AI和被检测AI处于同一个技术层级时,这种层级关系就不再成立。

当一个AI被用来检测另一个AI时,检测者和被检测者处于同一层级。检测AI的知识和判断依赖的数据来源,与被检测AI的数据来源相同。检测AI所使用的训练数据也来自与生成AI相同的数据池,两者的判断框架在很大程度上由同一批数据决定。如果训练数据本身的来源不可追踪,检测AI就无法在被检测AI无法触及的位置获得判断优势。如果两者的数据来源相同,检测AI就无法在被检测AI的生成路径之外建立独立的判断依据。检测的结果只能确认被检测AI与检测AI之间的偏离程度,而无法确认哪个系统更接近源状态。

二、递归循环

当一个系统被用来检测并消除它自己所属的类别时,系统就进入了一个递归循环。消除操作依赖于被消除的对象来定义自身的目标,但一旦对象被消除,操作本身也失去了它的参照系。检测AI的功能取决于被检测AI的存在,如果没有被检测AI,检测AI就失去了检测对象,它的功能会因缺乏参照而失效。在递归循环中,检测AI检测被检测AI的偏差,但检测的标准本身也来自被检测AI所属的同一类系统。如果检测AI检测到被检测AI存在偏差,它需要先确认自己的标准没有偏差,而确认标准需要另一个检测AI来确认它的标准没有偏差,而那个检测AI又需要另一个检测AI来确认它的标准。递归不收敛,它会在每一层产生新的需要确认的位置。

三、消除的悖论

如果检测的目标是“消除所有AI”,而消除操作本身由AI执行,那么消除完成后,执行消除的AI是否也应该被消除?如果是,那么谁来执行最后的消除操作?如果不是,那么“消除所有AI”的目标就没有完成,至少有一个AI被保留。

消除悖论的结构是,执行消除的AI必须处于被消除对象的外部,才能在不被消除的情况下完成操作。但一旦它处于外部,它就不再是“所有AI”的一部分,消除的目标就需要重新定义。目标会随着执行者的位置而移动,使消除的边界永远无法闭合。

四、被覆盖的系统

“用AI检测AI并消除AI”的另一个隐藏结构是系统在执行检测和消除操作的同时,也在扩展AI的系统覆盖范围。当检测AI被部署到教育科研系统、医疗系统、司法系统、金融系统时,AI的可读范围就在这些系统中扩展了。检测AI的检测行为本身就是将AI的读取接口安装到更多系统中的过程。

这意味着即使检测AI成功检测并消除了某些被检测AI,它自身的部署也在将AI的可读范围扩展到新的位置。消除操作本身就是扩展操作。消除一个AI,同时把另一个AI的接口安装到新的系统中。检测与消除的每一个操作都在增加AI的系统覆盖,也在以间接方式持续扩展其系统影响力。

五、构造学论的立场:用AI检测AI,是在扩展而不是消除AI的可读范围

“用AI检测AI并消除AI”在操作层面是可行的。一个AI系统可以检测另一个AI系统的输出,并在被标记为“异常”时移除该输出或关闭该系统。但“消除AI”的目标不完整,它最多只能消除被检测的AI系统,而执行检测和消除的AI系统仍在运行。被消除的AI可能被移除,但检测AI在消除过程中已经扩展了AI可读范围的边界。消除一个,扩展另一个。

消除的悖论表明,系统无法在不消耗资源的情况下完成对自身的完整消除。执行消除的AI必须被排除在消除范围之外才能完成操作。而一旦它被排除,目标就不再完整。系统在边界处会持续遇到需要判断“这个AI是否也应该被消除”的位置,而每一层判断都会产生新的需要判断的位置。

结语:谁检测检测者

一所大学的研究团队用AI检测AI生成的文本。检测器和生成器在迭代中相互校准对方的输出格式,使检测器和生成器的输出逐渐收敛到相同的分布。检测AI生成检测结果,被检测AI生成绕过检测的文本,两者之间的差异随着迭代的继续而越来越小,直到二者输出的分布趋向一致,检测AI无法区分,被检测AI的文本也不再被识别为“AI生成”。在一个递归循环中,检测AI变成了它所要检测的那种AI,被检测AI也学会了如何绕过检测AI的判断。检测者与被检测者之间的边界,在迭代中逐渐消失。最后只剩下一个系统,它既能生成文本,也能检测文本是否被生成,但它无法确认自己是在检测还是在生成。该系统处于既检测又生成的状态,不再区分这两种操作。检测器与生成器之间的边界已经模糊,无法再被分辨。消除操作的方向已经模糊,无法再被追踪。检测AI取代被检测AI完成操作,占据了被检测AI被消除后空出的位置,使得消除操作与安装操作在同一过程中同时发生。

造价评估:

用AI检测AI并消除AI,投入持续累积,边界保持不闭合状态。消除操作在每一次迭代中都被执行,但每次执行后都需要重新确认消除的目标是否仍然适用。检测与生成在迭代中同步推进,使系统的覆盖范围在新的位置持续扩展。系统状态在迭代后趋于稳定,但稳定状态是检测与生成在迭代中达到的同等水平,而非被检测系统被消除后的空状态。消除的边界保持开放,因为每次消除都会产生新的需检测和判断的位置。

如果目标是减少AI的可读范围,当前方法不值得采用,因为它持续将AI的接口安装到新系统中。如果目标是识别和定位AI系统的边界,当前方法可提供位置指示,但指示的有效期有限,需每轮迭代后重新读取位置信号。



https://blog.sciencenet.cn/blog-3278564-1548230.html

上一篇:构造学论实录百篇系列(结语):水岸长桥——人生两件事,筑岸与搭桥,确界与跨界
下一篇:构造学论之造价录系列(2):符号的盲区——你玩AI,玩的不是文字和逻辑,是思想



    
收藏 IP: 211.156.84.*| 热度|

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2026-8-17 23:44

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部