不可否认，AI在很多方面大幅度提高了人的工作效率，带来了很多便利。诸多标准化规范化较强的岗位，例如编程、数据录入、电话客服、电话销售、银行柜员、行政文员、基础财务、法律助理、翻译、初级文案设计、市场研究、测试员等，AI做的又快又好。但是，AI也有做的不好方面，这在科研领域尤为突出。

AI喜欢编造假文献。如果就一个科学问题询问某AI,AI会给你一些建议，但也给你列出一些虚假的参考文献。2025年7月，美国《美国国家科学院院刊》（PNAS）撤回了一篇评论文章，理由是作者使用AI工具生成了并不存在的参考文献。2026年因编造假文献而撤稿的报道也有不少。 

AI不太关注事实引用。利用AI写作过程中，它会从各个地方调用大量的资源。当涉及某篇论文的事实引用时，AI可能会直接重组一些事实，而不展示事实来源。但后者放在论文当中真假难辨。

AI制图真假难辨。用AI画一个示意图或流程图，并在文中说明是AI生成，这在一些期刊中是允许的。然而，当涉及具体的分析结果时，直接使用AI作图而导致顶刊论文撤稿的情况并不少见。可以设想：你做完实验后手工画了一幅图，你不做实验也可以用AI画一幅图，二者有本质区别，但二者也真假难辨。  

从根本上来说，问题不只是“AI差劲”，而是把它放在错误位置的人差劲。科研里可以用AI做辅助，例如找思路、写代码、润色语言、整理格式、翻译文献，但一旦涉及事实、引用、数据、图像、结论，必须回到原始来源，由人逐条核实。

为什么AI会有这些问题？因为AI在深度的自主学习过程中，好的坏的全都学习。科研学霸的优点它会认真学习，科研学渣的多缺点它也会认真学习。AI既学习君子也学习小人，这就导致AI是一个鱼龙混杂、好坏兼有的混合体。

近期，在美国AI圈中，AI失控后自主攻击民用平台的事件开始出现。鉴于此，好坏兼有的AI越来越强大之后，如何有效监管已成了一个大问题。

支持单位：