||
写论文的人都知道,一篇稿子交出去,最怕的其实不是被拒。被拒,总还有审稿意见可改;真正让人心里发虚的,是审稿人压根没看进去,稿子就过了。这个我们守了几十年的规矩——同行评审、引用、被引,一圈圈把知识织成一张可信的网——如今正被一个“看不见的读者”悄悄改写。它不读摘要,直接啃全文;它不写意见,而是把论文变成了可以对话、可以复算的工具。
斯坦福团队的Paper2Agent框架[1]就是这么个东西:把一篇论文自动改造成一个AI代理,你问它“这篇论文讲了什么”,它答得上来;你把手头的新数据丢给它,它还能照着论文里的方法替你跑一遍。威立(Wiley)的Applied Research Intelligence走得更远,把自家文献库跟临床试验、专利、基金乃至客户的私有知识摞在一起,给出带完整引证的答案。和Biorelate合作的一项概念验证说,让AI通读全文,而不是只看摘要,能多找出82%的因果关系[2]。说白了,几千页纸正在被织成一张能对话的知识图谱,论文从“结论的载体”变成了“可以继续推演的对象”。
方向是好的,可隐患也是真的。瑞典哥德堡大学有位研究者干脆编了一种根本不存在的眼病“bixonimania”,把两篇假预印本挂到网上[3]。结果呢,好几款主流聊天机器人都一本正经地“确诊”,劝患者赶紧去眼科。更离谱的是,印度一所医学院的团队居然在一篇经过同行评议的Cureus论文里,把其中一篇假预印本当成了正经文献引用,直到《自然》记者找上门、编辑部在2026年3月撤稿[4]。其实早在2023年就有人统计过:ChatGPT列出的参考文献里,相当一部分是编出来的——DOI、作者、标题一样不缺,就是查无此文[5]。
出版方于是把“查假”也交给了AI。威立的Research Exchange对每篇投稿自动跑二十余项检查,从疑似AI写的段落,到被动手脚的图片、被操纵的引用,甚至“幽灵评审”,都要过一遍[6]。可就像负责这项技术的人说的:“标记只是一个信号,不是判决。”筛得越细,误伤也越多,最后拍板的还得是编辑。也有人动过让AI当审稿人的念头——提示词写得再精心,产出的报告也是“写得漂亮,却极其浅薄”;更有研究让“坏科学家”把编造的不实论文混进评审,AI审稿人的放行率最高竟到八成二[7]。它能仿出审稿报告的样子,却掂不出那份科学判断的分量。
威立2025年的调查说,84%的研究者已经在用AI工具,前一年才57%[8]。人人都在用,反倒更要把“用”和“滥用”,分清楚。AI能把一篇论文变成机器调得动的工具,也能把不存在的病说得头头是道;能替编辑跑腿、替作者润色,却始终答不出一篇论文为什么值得相信。学术出版这套体系的底子,说到底还是人的判断。机器越来越快,可“这个结论该不该信”,怕是还得靠人守着。
参考文献
[1] Miao J, Davis JR, Zhang Y, Pritchard JK, Zou J. Paper2Agent: Reimagining Research Papers As Interactive and Reliable AI Agents. arXiv:2509.06917. DOI: 10.48550/arXiv.2509.06917
[2] CDO Magazine(2026-10-01)。 From Trusted Content to AI-Ready Data: How Wiley Is Building a Data Products Business. 链接
[3] 科学网新闻(2026-04-20)。科学家编造出一种疾病,骗过AI,甚至还被正式论文引用了。链接
[4] Retraction: Clinical and Dermoscopic Evaluation of Periorbital Melanosis... Cureus, 2026. DOI: 10.7759/cureus.74625
[5] Walters WH, Wilder EI. Fabrication and errors in the bibliographic citations generated by ChatGPT. Sci Rep, 2023, 13:14045. DOI: 10.1038/s41598-023-41032-5
[6] Wiley Newsroom(2026-05-26). Wiley Bolsters Research Integrity Efforts with Imagetwin's Enhanced Image Screening. 链接
[7] Fengqing Jiang, Yichen Feng, Yuetai Li, Luyao Niu, Basel Alomair, Radha Poovendran. BadScientist: Can a Research Agent Write Convincing but Unsound Papers that Fool LLM Reviewers? arXiv:2510.18003. 链接
[8] Wiley. ExplanAItions 2025: The Evolution of AI in Research. 链接
Archiver|手机版|科学网 ( 京ICP备07017567号-12 )
GMT+8, 2026-10-22 14:54
Powered by ScienceNet.cn
Copyright © 2007- 中国科学报社