No.28.AI辅助科研，谁来为科学主张负责？ 

王珂

前不久，国内某高校师生因AI使用不当造成学术不端引发社会各界关注，其论文引用AI生成的判决书，判决书编号、案情均由AI幻觉编造，而作者未经审核便采用，最终被学校认定为AI使用不当并通报惩戒。^[1]无独有偶，2024年一篇刊登在《Frontiers in Cell and Developmental Biology》期刊的关于精原干细胞的论文，由于使用AI生成的配图存在明显错误，仅发表三天就被撤稿，直接暴露了AI生成实验图像的风险，以及同行评议对AI内容审查不足。^[2]这些事件提醒我们要对AI生成的内容应保持一定警惕，否则将陷入对AI的盲目误信，埋下学术不端的隐患。

这些事实也反映出，AI正在深度参与到科研的每一环节，从构思选题、实验分析、论文撰写，但在提升科研效率背后也面临不少新问题，比如数据修饰、实验缺失、信息泄露、评审漏洞等，这些新问题的出现需要我们重新审视科研诚信与学术规范。通常，很多人以为交给AI完成的内容，出错了责任在AI，但事实上AI只是辅助工具，科研的最终责任在于研究者。当使用AI辅助科研时，有人会认为AI使用的披露无关紧要，是一种形式化的填写。但事实上这种披露十分必要，它是向学术同行说明整个研究中AI工具所参与的环节，使评议人能够对研究论据的生成过程进行判断。科技部在《负责任研究行为规范指引（2023）》中明确规定^[3]，应当在研究方法、附录或者致谢中，清晰披露AI工具名称、使用阶段、具体用途。正如2023年《Physica Scripta》一篇物理学论文，作者使用AI撰文后既没有披露，也没有通读审核，稿件竟留存模型提示词，直接被撤稿，而这可能只是冰山一角，那些更小心处理文本却隐瞒使用的数量可能更多。^[4]AI使用披露的意义在于，学术同行在评估一项研究时，有权知道哪些环节由AI生成，据此判断研究结论生成的逻辑。隐瞒使用意味着刻意回避研究环节，不仅破坏了开放科学所要求的过程透明，也使学术同行无法检验真实的科学环节，科学知识的完整性和可信性就此受到破坏，因此AI使用披露意味着过程透明是开放科学的基本前提。

进一步来看，使用AI辅助科研，最应警惕的风险便是AI幻觉。AI可以在短时间内丝滑地输出逻辑通顺、格式规整，但不符合事实的文献、数据、结论，因为AI本身没有求真的目标，它只是基于统计规律生成文本，无法判断内容是否与经验事实相符。然而科学不同，一项合格的科学主张，必须具备可检验性和可重复性。由AI生成的引文、记录、结论，若没有对应的经验材料检验，便在根源上切断了科学命题和经验世界的联系，使其不再是可检验的科学陈述。即便研究者没有造假意图，但直接采信AI的输出，跳过人工核对，研究本身就失去了可检验、可重复的基础。因此，检验核对与披露说明不是额外的工作，是研究者为提出的科学主张完成后续审核验证的必要步骤，由此建立科学论断与经验事实的关联，这是科学得以成立的先决条件。与此同时，使用AI生成的科学主张也往往缺少可追溯的证据链条。由于训练数据不透明且不可获得，科学发现的新颖性无法被验证，伴随模型升级而来的是可重复性危机与证据黑箱问题，不仅掩盖了科学发现的真正来源，也加大了同行评议检验的难度。

如何规范使用AI辅助科研，是关乎科研诚信和学术生态的一道现实问题。然而无论AI参与了哪个环节，最终对一项科研成果的真实性、可靠性负责的还是研究者本人。这里我们可以区分两种责任，一种是事务性的工作，如语言润色、格式排版、简单绘图，这类工作可以交给AI。一种是认识论的工作，如研究设计、证据核验、结论判断、成果辩护、原始记录留存，这部分责任是不可转移的。哪怕是AI出错，学术问责的对象依然是研究者，这提醒我们科学是知识共同体事业的本质。归根到底，科学知识是根据可检验事实、接受同行负责任评议而确立的命题或主张。辅助科研的工具可以迭代升级，但研究者作为知识主体的责任边界不会消失，这是维系科学事业有效运转的基石。

（作者：王珂，广州大学马克思主义学院讲师；审核：李侠，上海交通大学科学史与科学文化研究院教授）

参考文献：

[1] https://www.aufe.edu.cn/_t2169/2026/0901/c298a255097/page.htm

[2] https://news.sciencenet.cn/htmlnews/2024/2/517757.shtm

[3] https://www.most.gov.cn/kjbgz/202312/t20231221_189240.html

[4] https://www.nature.com/articles/d41586-023-02477-w

【博主跋】这篇小文章发在《科普中国》2026-10-28，是本系列的第二十八篇文章，与邹老师合作愉快，是为记！

2026-10-31于南方临屏涂鸦

支持单位：