生态学时空分享 http://blog.sciencenet.cn/u/lionbin 自我营造一个可持续发展的学术生态系统

博文

AI在科学中能做什么,不能做什么——串读今天五篇Nature文章后的边界图谱

已有 156 次阅读 2026-7-23 18:30 |个人分类:学术生态|系统分类:科研笔记

我用OpenClaw阅读Nature的一个实验

这篇文章是我用 OpenClaw 阅读顶刊 Nature 后的第一个习作。过去我读 Nature 的方式是:打开目录,先挑标题,然后跳着看摘要,最后往往只记得三五个关键词。这次不一样。OpenClaw 帮我完成了从浏览目录、下载PDF、消除跨页干扰、逐字翻译到跨文章主题串联的整个流程。最终,同一期里的五篇文章被串成了一个关于"AI在科学中边界"的完整故事。

01.png

效率的提示只是副产品,真正让我意外的是理解的深度——当五篇文章被放在一起读的时候,"AI在科学中能做什么、不能做什么"这个问题的答案,比任何单独一篇文章所能给的都更完整。所以,现在你阅读的这篇文章,更像是我自己思考后的感悟,而不仅仅是Nature文章的解读了。

2024年初,一篇正式发表的论文中出现了一幅令人瞠目结舌的插图。图中是一只老鼠——但它的睾丸比整个身体还大,而且画了四个,旁边还飘着一行拼写错误的文字"sserotgomar cells"。作者注明这张图是用Midjourney生成的,它通过了同行评审。

02.png

科学诚信顾问Elisabeth Bik的评论一针见血:"这是AI生成图像进入科学论文的第一个主流案例——它本不应该被发表。"

但两年后的今天,她说:"AI已经好多了,我们到了一个再也无法区分真假的地步。"

2026年4月,《新英格兰医学杂志》撤回了一篇中国团队的论文。原因是图中卷尺上的数字异常——作者承认用AI工具调整了卷尺位置,但"数字不规则是这次调整带来的意外结果"。

这是关于"AI在科学中能做什么、不能做什么"这个核心问题的一个缩影。2026年7月23日的《自然》杂志以科学插画为封面主题,中间穿插了多篇涉及AI与科研关系的文章。从封面社论到网络安全的世界观点,从AI科学家工具评测到插画师的长篇对话——这期杂志拼出了一幅关于AI在科学中边界的图谱。

我们把这些文章串起来读读看。

03.png

一、AI能做什么?比你想象的更多

先说好消息。德国马普安全与隐私研究所的科学主任Thorsten Holz写了一篇让网络安全从业者后背发凉的文章。他用一个数据点说明了一切:今年早些时候,Mozilla用前沿AI模型扫描Firefox浏览器,在一个版本中就发现并修复了271个安全漏洞。这比过去一整年用传统方法找到的还多。

04.png

但更深的震撼在下一段。2026年5月,Linux内核维护团队——负责全球大多数服务器和Android底层系统的核心人员——发布了一条看似奇怪的公告:要求社区规范AI生成漏洞报告的提交流程。理由也很直接:AI生成的报告太多了,大量重复、质量参差不齐,人工维护者已经被淹没了。

Holz把这种悖论概括得很清楚:"发现漏洞不再是主要挑战了,修得够快才是。"他提出的三个优先事项——响应流水线、评估标准、人才再培训——其实不只适用于网络安全,它几乎是AI时代所有科研领域的通用命题。当一个工具让你的发现速度远超你的处理能力时,瓶颈就从"能不能找到"转移到了"能不能跟上"。

同一个专题里,Ewen Callaway的报道给出了另一个维度的"AI加速度"。斯坦福遗传学家Euan Ashley在2010年领导了首例人类基因组临床分析,他的31人团队花了9个月才完成。今年,他把自己的基因组数据丢给了AI工具Claude。30分钟后,Claude正确识别出了阿尔茨海默病风险等位基因和影响药物代谢的基因变异。

"这个世界不存在'这不算什么'的可能性。"Ashley在LinkedIn上写道。他不是在说"这很酷",而是在说"这已经重要到你不能假装它不存在了"。当一个工具可以在30分钟内完成31个人9个月的工作时,你不可能像对待一个有趣的玩具一样对待它。它从根本上改变了科研的速度尺度。

二、但它搞砸的方式也比你想象的更多

老鼠的四个睾丸只是个开始。威斯康星州的生物信息学研究员Anthony Gitter让Biomni和其他几款AI工具参加了一个药物毒性预测挑战赛。结果:AI表现得"还行",但不如人类专家。"它们总体上做得还算合理,但并没有突破边界。"

Gitter的结论慢慢变成了一个更大的担忧。

05.png

DeepMind的Co-Scientist——一款能从海量文献中挖掘并生成研究假设的AI工具——是很多科学家的心头好。剑桥大学免疫学家Clare Bryant用它来推进人畜共患病原体的研究。AI生成的一个想法涉及向一种先天免疫蛋白引入特定突变,Bryant的团队正在验证这个假设。"如果全靠我自己想,这个实验可能得两年后才能开始。"她说。

但与此同时,她也问了一个所有使用AI的科研人员都在面对的问题:

"我最大的问题是——我该如何训练我的学生?"

这个问题的潜台词是:如果博士生从一开始就依赖AI生成想法、分析数据、甚至写论文,他们什么时候才能学会自己判断什么是"好科学"?Gitter也有同样的担忧:"只有自己过去多次犯过错误,你才能学会识别某些类型的错误。"

三、有些东西,科学家永远不会交给AI

《自然》在同期的"工作/职业"栏目中做了一个有趣的小调查:AI做得再好,你也不想让它替你做的科研任务是什么?

06.png

答案出乎意料地不涉及技术。

"不要抢走揭晓的瞬间。"这位研究者说,她指的是数据收集完成、终于能验证假设的那一刻——"经过几个月甚至几年的数据收集,你终于发现数据是否支持你的假设。把过程中如此有趣的一部分交给AI,那将是一种遗憾。"

"写作就是思考。如果让AI代写,你就跳过了思考的过程。即使是写无聊的邮件,也能帮助我锻炼强大而有效的沟通技巧。"

"与同事聊天至关重要。"有研究者指出,最好的研究想法不是从某个算法里蹦出来的,而是来自随机的、自发的、甚至看起来"低效"的对话。"科学进步不仅仅是高效地找到答案,更是通过对话交换视角、挑战假设和发展想法。"

"采访需要真人。"有研究者强调,深度问卷、实地观察、面对面访谈——"这些任务需要同理心、灵活的现场应变和专业的面对面沟通。AI无法进入真实场景收集真实的一手材料。"

一位医生给出了一个更宏观的视角:"如果AI在某项任务上比我做得更好,它就应该取代我完成那项任务。但我希望它能增强而不是取代我关爱他人的使命、我的人性温度、我好奇心驱动的研究、与他人共同创造的乐趣。"

四、插画师的反击:精度本身就是一种价值

这期的封面故事,是对五位科学插画师的深度访谈。她们的五张面孔代表了一种完全不同的科学可视化方向——太空画、古生物复原、医学插画、神经科学概念图、封面设计。

07.png

她们的共识非常一致,甚至有些出人意料:没有人在用AI做核心创作。

有插画师做过实验,发现AI在透视、前景背景关系和科学准确性上经常出错。"让它从骨骼复原一只恐龙,它会生成它被训练时看到的大量糟糕作品。"

另一位插画师的观察更尖锐:"它会用视觉上似乎合理的细节填补空白,这些细节可能细微地——也可能实质性地——是错误的。然而结果看起来很权威。这正是它的问题所在。"

澳大利亚的插画师说,她每次做项目都会阅读大量地质学和古生物学文献。复原一只恐龙这件事,90%的工作量不在画画本身,而在理解化石、系统发育关系、比较解剖学——AI无法理解这些,它只是在"填色"。

一位插画师提到了一个令人难忘的项目:阴部和外阴神经分布的解剖插图。"这些结构长期被研究不足,直到最近一年才被高分辨率解析和绘制。如果某个外科手术要切断这些神经,了解它们的位置就变得至关重要。AI在那里帮不上忙。你不能通过提示词来搞定那个问题。"

08.png

另一位插画师从种族视角切入:"我始终从棕色皮肤开始画,因为我有棕色皮肤。如果我自己遇到这种疾病,它看起来会怎样?"她批评医学教材中缺乏展示疾病在不同肤色上的呈现方式的图像,而这恰恰是AI无法填补的空白——"这需要社会意识和对缺失数据的自觉补充。"

科学插画的本质不是"能画",而是"懂画"。

五、所以,我们该怎么用AI?

把这些文章放在一起,一个务实的框架浮现出来。

分清"证据"和"说明"。 AI生成的示意图用来解释概念是一回事,但用于支撑结论的原始数据图像是另一回事。后者的伦理标准完全不同。

知道工具要干什么。 生成假设用Co-Scientist,分析基因组数据用Claude Science,写代码用AI辅助——不是每个工具都适合每个任务。

保留低风险试错空间。 先从小任务开始——那些输出可以被轻松验证的事。"最坏的情况是你得重新做一遍。"

始终保持人类在回路中。 COPE指南说得很清楚:AI不能是论文的合著者。同样,AI不能是平面设计师。最终,所有工作应该是人的创造性工作,而不是机器的。

用未来学方法审视自己的研究假设。 同期另有一篇文章提出的"转化未来学"框架实际上是一个元规则:如果连研究本身背后的假设都不审视,你又怎么知道AI是在帮你做"正确的事"还是"错误的事"?

结语

当一个AI可以在30分钟内完成31个人花9个月才能完成的工作时,"AI会取代科学家吗"成为一种很自然的焦虑。

但如果你把这五篇文章读完,你会发现它们集体指向一个不太一样的答案:AI会取代的,可能恰恰是科研中最不值钱的那部分——那些机械的、重复的、不需要判断的。但那些最有趣的部分——好奇心、出错的快感、数据揭晓的激动、与同事闲聊时突然冒出的灵感、面对一个从来没被可视化的结构时的那种"没人知道它长什么样所以我来画"的冲动——这些,AI还远未触及。

正如那篇社论的结语——虽然"illustrated"一词早已不在《自然》的报头上了,但它也不需要了。文字与图像共同构成科学,AI可以参与其中,但不是主导。

三位科学家、七位插画师、十二个不愿交给AI的任务,共同的潜台词其实只有一句话:把手艺留住,把工具用好。

本文素材来源于Nature Vol 655, Issue 8124 (23 July 2026) 的以下文章:

  1. Celebrating Nature's Covers — Past, Present and Future (p.823)DOI: 10.1038/d41586-026-02227-8

  2. AI is Set to Completely Transform Cybersecurity — Thorsten Holz (p.824)DOI: 10.1038/d41586-026-02214-z

  3. Which 'AI Scientist' Suits Your Lab? — Ewen Callaway (p.830)DOI: 10.1038/d41586-026-02091-6

  4. Good Design Takes Mastery: Scientific Illustrators Sketch Out AI's Future — Anne Pichon (p.843)DOI: 10.1038/d41586-026-02230-z

  5. Three Tips to Avoid AI Image Mistakes in Science — Sarah Wild (p.1093)DOI: 10.1038/d41586-026-02233-w

  6. Don't Let AI Steal All the Joy: What Scientists Won't Give Up to Chatbots — Anne Pichon (p.1096)DOI: 10.1038/d41586-026-02213-0



https://blog.sciencenet.cn/blog-502444-1544918.html

上一篇:《自然》如何让科学家敢啃硬骨头,同时根除科学欺诈可能




    
收藏 IP: 218.82.128.*| 热度|

1 郑永军

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2026-7-28 02:26

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部