氢分子医学分享 http://blog.sciencenet.cn/u/孙学军 对氢气生物学效应感兴趣者。可合作研究:sunxjk@hotmail.com 微信 hydrogen_thinker

博文

《自然》增加新规定应对ChatGPT 精选

已有 3457 次阅读 2023-1-25 10:59 |系统分类:海外观察

ChatGPT聊天机器人的横空出世已经对学术界开始产生巨大影响,对产业界的影响已经展现出来,最近ChatGPT开始了收费模式,一方面是洪量免费用户带来的资金负担过大,另一方面意味着VIP用户的功能增强。

《自然》杂志的两个新规定意思和明确,同意使用这种工具,但不承认这种工具本身为论文作者。这是人类面临人工智能挑战的姑息规则。其实这已经变相接受了事实。机器能写论文,写的论文能在学术期刊发表,《自然》都接受这一新的技术现实。虽然为了保留人类自欺欺人的面子,把ChatGPT排除在作者列表外,只能放在致谢部分。其实已经接收了ChatGPT参与论文撰写的事实。如果这样的规定被大部分杂志接受,ChatGPT可能会大量出现在论文致谢部分。到了一定比例,会不会出台新的规定,要求不必要注明,因为大家都这么做。回忆一下,人类在面对机器挑战人类围棋的历史,开始有人认为机器永远都不能在围棋上战胜人类,但最终变成是人类永远都无法在围棋上战胜机器。现在我们仍然学习围棋,仍然有围棋比赛,而且增加了人机挑战赛的新模式。在学术论文的发表方面,人类将来会永远无法不依靠机器,这已经成为非常接近的现实。无论你是否愿意,是否接受,我们都应该为这种时代的来临,做好准备。

Tools such as ChatGPT threaten transparent science; here are our ground rules for their use (nature.com)

几年来,很明显,人工智能(AI)正在获得生成流利语言的能力,产生越来越难以与人们编写的文本区分开来的句子。去年,《自然》杂志报道称,一些科学家已经在使用聊天机器人作为研究助手——帮助组织他们的思维,产生对工作的反馈,协助编写代码和总结研究文献(Nature 611192-193; 2022)。

但是,11月发布的人工智能聊天机器人ChatGPT将此类工具的功能(称为大型语言模型(LLM))带给了大众。它的开发人员,加利福尼亚州旧金山的OpenAI,已经让聊天机器人免费使用,并且没有技术专长的人可以轻松访问。数以百万计的人正在使用它,结果是有趣的,有时甚至是可怕的写作实验的爆炸式增长,加剧了人们对这些工具日益增长的兴奋和惊愕。

ChatGPT 可以撰写精美的学生论文、总结研究论文、回答问题以通过体检并生成有用的计算机代码。它已经产生了足够好的研究摘要,以至于科学家们发现很难发现是计算机写的。对社会来说令人担忧的是,它还可能使垃圾邮件、勒索软件和其他恶意输出更容易产生。尽管OpenAI试图为聊天机器人将要做的事情设置护栏,但用户已经找到了绕过它们的方法。

学术界最大的担忧是,学生和科学家可能会欺骗性地将LLM撰写的文本伪装成自己的文本,或者以协助方式使用LLM,例如进行不完整的文献综述,并产生不可靠的工作。一些预印本和发表的文章已经将ChatGPT归功于正式的作者身份。

这就是为什么研究人员和出版商是时候制定关于道德使用LLM的基本规则了。《自然》杂志与施普林格·自然的所有期刊一起制定了以下两项原则,这些原则已添加到我们现有的作者指南中(见 go.nature.com/3j1jxsw)。正如《自然》杂志的新闻团队所报道的那样,其他科学出版商可能会采取类似的立场。

一、不承认任何LLM工具是论文作者。

任何LLM工具都不会被接受为研究论文的署名作者。这是因为任何作者身份的归属都伴随着对工作的责任,而人工智能工具无法承担这种责任。

二、同意论文作者使用这种工具,但要求在致谢部分标注。

使用LLM工具的研究人员应在方法或致谢部分记录这种使用。如果论文不包括这些部分,则可以使用引言或其他适当的部分来记录LLM的使用。

编辑和出版商可以检测LLM生成的文本吗?现在,答案是“也许”。ChatGPT 的原始输出可以通过仔细检查检测到,特别是当涉及多个段落并且主题与科学工作有关时。这是因为LLM根据其训练数据和它们看到的提示中的统计关联产生单词模式,这意味着它们的输出可能看起来平淡无奇,或者包含简单的错误。此外,他们还不能引用来源来记录他们的产出。

但在未来,人工智能研究人员也许能够解决这些问题——例如,已经有一些实验将聊天机器人与来源引用工具联系起来,还有一些实验在专门的科学文本上训练聊天机器人。

一些工具承诺发现LLM生成的输出,Nature的出版商Springer Nature是开发技术的人之一。但是LLM会很快得到改善。人们希望LLM的创建者能够以某种方式为其工具的输出加水印,尽管即使这样在技术上也可能不是万无一失的。

从最早的时代开始,科学就通过对方法和证据保持开放和透明来运作,无论哪种技术一直很流行。研究人员应该问问自己,如果他们或他们的同事使用以根本不透明的方式工作的软件,如何保持生成知识过程所依赖的透明度和可信度。

这就是为什么《自然》杂志提出了这些原则:最终,研究必须在方法上具有透明度,以及作者的完整性和真实性。毕竟,这是科学进步所依赖的基础。



https://blog.sciencenet.cn/blog-41174-1373381.html

上一篇:麻烦:抗抑郁药导致细菌耐药
下一篇:CAR-T疗法国际竞赛
收藏 IP: 117.135.15.*| 热度|

5 郭战胜 丁凡 郑永军 樊京 彭真明

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2023-1-27 23:06

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部