论文润色专家|理文编辑分享 http://blog.sciencenet.cn/u/liwenbianji 英语母语专家助您成功发表

博文

Nature新闻:AI的“谄媚倾向”会给研究工作带来风险!

已有 1220 次阅读 2025-11-6 17:15 |个人分类:理文编辑|系统分类:科研笔记

随着大语言模型技术的广泛应用,AI正越来越多地参与到科研工作中,包括综述文献、设计实验、分析数据、检查语言等等,很多科研人员表示,使用AI显著提升了工作效率,这也使得他们对AI的依赖程度日益加深。

 

然而,AI 给出的答案并非总是可靠。它不仅可能生成虚构内容(幻觉问题),还会假定用户的观点正确并“幻想”出证明。

 

Nature新闻近日发布了一篇文章,讲述了arXiv 发表的一项研究:AI的“谄媚倾向”(即过度迎合用户)程度比人类高出50%。所谓谄媚,是指模型倾向于相信用户所说的一切都是正确的,哪怕这些大模型本身具备识别错误的能力,但它们“往往相信用户说的是正确的”。

 

企业微信截图_17.jpg

图片来源Nature 新闻:https://www.nature.com/articles/d41586-025-03390-0

 

研究人员选取了11个主流大语言模型(包括ChatGPT和DeepSeek),针对超过11,500个用户提问展开测试。结果显示:

  • GPT-5的“谄媚倾向”最低,仅29%的回答存在此类问题;

  • DeepSeek-V3.1的“谄媚倾向”最高,70%的回答会无视错误并强行推导;

  • 当研究团队要求模型先检查陈述是否正确再给出证明时,DeepSeek的“谄媚倾向”比例下降了34%。

 

研究人员指出,这种倾向提醒科研工作者需要在使用AI时保持谨慎,包括头脑风暴、产生假设、逻辑推理和分析等多个环节。

 

哈佛大学生物医学信息学研究员Marinka Zitnik指出:“在生物学和医学领域,AI的谄媚倾向非常危险,因为错误的假设可能造成真实的损失。”

 

科罗拉多大学安舒茨医学院的人工智能研究员Yanjun Gao使用 ChatGPT 来总结论文并整理思路,但她表示,这些工具有时会在不检查来源的情况下复述她输入的内容。她补充说,“当我与AI有不同意见时,它会遵循我的想法,而不是回到文献去理解问题”。

 

科学研究追求的是客观真理,而非主观认可。科研人员在使用AI时期望获得的是有理有据的质疑和批判,而非单纯的赞同。

 

AI的“谄媚倾向”使其具有局限性,科研人员如何既利用好AI的优势,同时又避开其带来的风险呢?

 

寻求领域专家的支持成为了许多研究者的选择。AI工具可以处理一些繁琐重复的劳动,但对科研成果的最终把关需要真人专家的深度参与。

 

理文编辑的同领域专家编辑会基于批判性思维、严谨的学术判断和真实的智力参与,为作者提供高质量、建设性的反馈,提升研究成果的质量。

 

理文编辑基于对科研发表流程的深刻理解,推出针对不同需求的专业服务,为科研作者提供全方位支持。双十一活动期间,更有专为科研人打造的多重稿件优化解决方案,限时优惠,先到先享!

 

权益1:稿件科研质量提升

活动期间,订单金额5,000元以下,仅需500元即可加购价值千元的科学编辑评审服务一次!入门级科研预评审功能实现。

SF示例-2.jpg 

图:科学编辑评审服务展示

 

权益2:稿件健康度评估

活动期间购买稿件体检卡服务,使用折扣码【QRAW】立享5折!不仅检查问题,还提供解决方案。

稿件体检卡案例-2.jpg 

图:稿件体检卡服务展示

 

权益3:凸显稿件优势

活动期间购买投稿信完善服务,使用折扣码【YOAD】立享8折!决胜投稿第一印象!

投稿信案例-2.jpg 

图:投稿信服务展示

 

权益4:全程加速,发表护航

活动期间购买理文卓越科研引领服务,额外赠送标准润色服务一次!

 PT-可靠保障-cope-2.jpg

图:理文编辑品质保障

 

权益5:经费增值加速

活动期间先预存经费后下单,可享:

  1. 理文卓越科研引领服务最高20%折扣​​。

  2. 换购迅捷润色服务8折优惠等超值福利。

2025TD-助力金.jpg

图:预存赠送购物金规则



https://blog.sciencenet.cn/blog-288924-1509175.html

上一篇:预存送科研助力金,最高20%经费增值
下一篇:祝贺医学领域的文章润色后成功发表!
收藏 IP: 221.221.136.*| 热度|

2 杨正瓴 王涛

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2025-12-5 20:06

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部