这说明，人工智能完全能写出合格的论文摘要。其实，摘要可以写，科技论文也同样可以完成，因为基本的要求是一致的。很快就会到来的是，人工智能写出的论文水平，超过大部分科学家的写作水平。这也证明了一个事，写论文将成为机器能力。科学家将来会不会依靠机器来写论文，至少可以让机器辅助进行语言润色。今天流行在中国科技界的论文润色服务将会成为历史。有的科学家接受不了，因为无法判断论文是来自机器还是真正的学者，其实区分不了证明机器已经可以接手这个工作，无论你在感情上是否能接受。就好比机器下棋早就超过了人类，分析蛋白质结构能秒成，写论文不过是人类的一种工作，让机器完成完全是可以的。后面在论文评阅，创新识别，甚至科学研究本身，都会有人工智能的介入，只不过是介入的模式和深度的区别。

Abstracts written by ChatGPT fool scientists (nature.com)

人工智能（AI）聊天机器人可以写出如此令人信服的假研究论文摘要，科学家通常无法发现它们，根据12月下旬在bioRxiv服务器上发布的预印本。研究人员对这一现象如何影响科学存在不同看法。

“我非常担心，”英国牛津大学研究和监管的桑德拉·瓦赫特（Sandra Wachter）说，她没有参与这项研究。“如果我们现在处于专家无法确定什么是真的，什么是假的，我们就会失去我们迫切需要的中间人来指导我们解决复杂的话题，”她补充道。

聊天机器人 ChatGPT 会根据用户提示创建逼真且听起来智能的文本。它是一个“大型语言模型”，一个基于神经网络的系统，通过消化大量现有的人类生成文本来学习执行任务。总部位于加利福尼亚州旧金山的软件公司OpenAI于11月30日发布了该工具，并且可以免费使用。

自发布以来，研究人员一直在努力解决围绕其使用的道德问题，因为它的大部分输出可能很难与人类编写的文本区分开来。科学家发表了预印本2和一篇社论3由ChatGPT撰写。现在，由伊利诺伊州芝加哥西北大学的Catherine Gao领导的一个小组使用ChatGPT生成人工研究论文摘要，以测试科学家是否可以发现它们。

研究人员要求聊天机器人根据发表在JAMA，新英格兰医学杂志，BMJ，柳叶刀和自然医学上的选择撰写50篇医学研究摘要。然后，他们通过抄袭检测器和人工智能输出检测器将这些摘要与原始摘要进行比较，并要求一组医学研究人员发现捏造的摘要。

ChatGPT 生成的摘要通过了抄袭检查器：原创性得分中位数为 100%，这表明没有检测到抄袭。人工智能输出检测器发现了66%的生成摘要。但人工审稿人并没有做得更好：他们只正确识别了68%的生成摘要和86%的真实摘要。他们错误地将生成的摘要中的32%识别为真实，将14%的真实摘要识别为生成。

“ChatGPT写出了可信的科学摘要，”高和他的同事在预印本中说。“道德和可接受的使用大型语言模型来帮助科学写作的界限仍有待确定。”

Wachter说，如果科学家无法确定研究是否属实，可能会产生“可怕的后果”。除了对研究人员造成问题，因为科学家正在阅读的研究是捏造的，还有“对整个社会的影响，因为科学研究在我们的社会中发挥着如此巨大的作用”。例如，这可能意味着研究知情的政策决定是不正确的，她补充说。

但新泽西州普林斯顿大学的计算机科学家Arvind Narayanan说：“任何严肃的科学家都不太可能使用ChatGPT来生成摘要。他补充说，生成的摘要是否可以被检测到是“无关紧要的”。“问题是该工具是否可以生成准确且引人注目的摘要。它不能，所以使用ChatGPT的好处是微不足道的，缺点是显着的，“他说。

艾琳·索莱曼（Irene Solaiman）在总部位于纽约和巴黎的人工智能公司Hugging Face研究人工智能的社会影响，她担心科学思维会依赖大型语言模型。“这些模型是根据过去的信息训练的，社会和科学的进步往往来自思考，或者对思考持开放态度，与过去不同，”她补充道。

作者建议，那些评估科学传播的人，如研究论文和会议记录，应该制定政策来消除人工智能生成的文本的使用。如果机构选择在某些情况下允许使用该技术，他们应该围绕披露制定明确的规则。本月早些时候，将于7月在夏威夷檀香山举行的大型人工智能会议第四十届机器学习国际会议宣布，它已禁止使用ChatGPT和其他AI语言工具撰写的论文。

Solaiman补充说，在虚假信息可能危及人们安全的领域，如医学，期刊可能不得不采取更严格的方法来验证信息的准确性。

纳拉亚南说，这些问题的解决方案不应该集中在聊天机器人本身，“而是导致这种行为的不正当激励措施，例如大学通过计算论文进行招聘和晋升审查，而不考虑其质量或影响”。