写论文逐渐到了依靠人工智能的时代，这是好事，也是坏事。好处是人类终于摆脱了科技论文写作的烦恼，坏处是人类会因此失去科学论文写作的独特能力。过去发表论文是学者成就的重要标准，随着机器代替人脑的这种趋势。写论文越来越越成为计算机负责的工作。我们这代学者可能成了最后一批看重论文的。

Scientists used ChatGPT to generate an entire paper from scratch — but is it any good? (nature.com)

在ChatGPT的帮助下，两位科学家在不到一小时的时间内发表了一篇研究论文，ChatGPT是一种由人工智能（AI）驱动的工具，可以理解和生成类似人类的文本。这篇ChatGPT协助写的文章，文笔流畅，有思想有见地，并以科学论文的预期结构呈现。但研究人员表示，在该工具真正有用之前，有许多障碍需要克服。

目标是探索ChatGPT作为研究“联合驾驶”的能力，并引发关于其优势和陷阱的辩论，以色列海法理工学院的生物学家和数据科学家Roy Kishony说。“我们需要讨论如何以更少的缺点获得好处，”他说。

Kishony和学生Tal Ifargan，也是以色列理工学院的数据科学家，从美国疾病控制和预防中心的行为风险因素监测系统下载了一个公开数据集，这是一个与健康相关的电话调查数据库。该数据集包括从超过250万人收集的有关其糖尿病状况，水果和蔬菜消费以及身体活动的信息。

研究人员要求ChatGPT编写代码，他们可以用来发现数据中的模式，以便进一步分析。在第一次尝试时，聊天机器人生成的代码充满了错误并且不起作用。但是，当科学家标注错误消息并要求ChatGPT纠正错误时，它最终产生了可用于探索数据集的代码。

有了更结构化的数据集，Kishony和Ifargan随后要求ChatGPT帮助他们制定研究目标。该工具建议他们探索身体活动和饮食如何影响糖尿病风险。一旦生成了更多的代码，ChatGPT就给出了结果：多吃水果蔬菜和体育锻炼与降低患糖尿病风险有关。然后提示 ChatGPT 在表格中总结关键发现，并编写整个研究结果部分。他们随后要求ChatGPT撰写稿件的摘要，介绍，方法和讨论部分。最后，他们要求ChatGPT完善文本。“我们根据许多提示的输出组成[论文]，”Kishony说。“每一步都是建立在前几步产品的基础上。

Kishony说，尽管ChatGPT生成了一份具有可靠数据分析的清晰手稿，但该论文远非完美。研究人员遇到的一个问题是，ChatGPT倾向于通过编造来填补空白，这种现象被称为幻觉。在这种情况下，它产生了虚假的引用文献和不准确的信息。例如，该论文指出，这项研究“解决了过去文献中的空白”——这个短语在论文中很常见，但在这种情况下是不准确的，耶路撒冷希伯来大学的计算机科学家汤姆·霍普（Tom Hope）说。他说，这一发现“不会让任何医学专家感到惊讶，这还不算新奇。”

Kishony还担心，这些工具可能会使研究人员更容易从事不诚实的做法，例如P-hacking，科学家在数据集上测试了几个假设，但只报告那些产生重要结果的假设。

他补充说，另一个担忧是，使用生成人工智能工具制作论文的便利性可能导致期刊充斥着低质量论文。他说，这种从数据到论文方法，即每一步都以人为监督为中心，可能是确保研究人员能够轻松理解、检查和复制方法和发现的一种方式。

在阿德莱德南澳大利亚大学开发人工智能教育技术的Vitomir Kovanović表示，人工智能工具需要在研究论文中提高知名度。否则，将很难评估一项研究的结果是否正确，他说。“如果生产假论文如此容易，我们未来可能需要做更多的事情。

生成式人工智能工具有可能通过执行简单但耗时的任务来加速研究过程 - 例如编写摘要和生成代码 - 麻省理工学院布罗德研究所和哈佛大学马萨诸塞州剑桥的计算生物学家Shantanu Singh说。他说，它们可能用于从数据集生成论文或开发假设。但由于研究人员很难发现幻觉和偏见，辛格说，“我不认为写整篇论文——至少在可预见的未来——会是一个特别好的用途。