林墨分享 http://blog.sciencenet.cn/u/ZJUlijiang 分享以科学家为对象的研究论文

博文

同行评议靠谱吗?

已有 3801 次阅读 2016-8-11 12:26 |系统分类:科研笔记

说明:本博客与微信公众号《林墨》同步更新,所有内容均为原创,可授权转载。请扫码关注《林墨》公众号。

摘要

同行评议是当前科学界最普遍的分配形式,但是同行评议的有效性却鲜有研究。哈佛商学院Danielle Li教授与其合作者波士顿大学Leila Agha 教授使用美国国立卫生研究院近30年的数据加深了我们对这一问的理解。

史冬波 / 清华大学与哈佛大学联合培养博士


注:图片来源于生物谷

同行评议是当前科学界最普遍的分配形式,但是同行评议的有效性却鲜有研究。哈佛商学院Danielle Li教授与其合作者波士顿大学Leila Agha 教授使用美国国立卫生研究院近30年的数据加深了我们对这一问的理解。论文聚焦于三个研究问题:

  • 同行评议是否筛选出了优质的研究计划?

  • 同行评议的价值有多大?

  • 同行评议是否筛选出了应用前景好的研究计划?

针对这三个问题,作者收集了美国国立卫生研究院的R01项目1980-2008年约13万个研究计划的评审分数并跟踪了每个计划在受资助五年后的论文发表、被引与专利数据。在控制了获资助科学家的论文发表历史、历史获资助情况、所在机构特征、学术生涯阶段等变量后,作者发现:

同行评议的评价越好,受资助计划在其后五年内的研究产出越好

具体来说,同行评议差一个标准差,被资助的研究计划在未来五年的引用减少15%,发表减少7%,高影响力论文发表减少19%,相关专利减少14%。这些证明了同行评议的有效性。

同行评议确实可以甄别研究计划的价值

更有趣的是,论文使用局部回归(科学家特征为自变量)预测所得残差与同行评议分数的关系,探讨了同行评议的价值。作者认为同行评议确实可以甄别研究计划的价值。评议分数越低,局部回归残差越大,而此处残差即是无法用研究计划及申请科学家的特征解释的部分,可以作为研究计划质量的某种测度。

在欣赏这项有趣研究的同时,我们也惊叹于美国公共部门数据的开放的程度。何时国家自然科学基金也愿意开放数据,对同行评议进行评估与优化?

参考文献

Li D,Agha L.(2015). Big names or big ideas: Do peer-review panels select the best scienceproposals?. Science, 348(6233): 434-438.

文字编辑:李江 / 浙江大学







https://blog.sciencenet.cn/blog-1792012-995818.html

上一篇:在这些国家,女科学家比男科学家更高产
下一篇:在学术圈,要想战胜你的对手,一定要比他活得更久
收藏 IP: 59.37.247.*| 热度|

7 陈楷翰 武夷山 郑小康 彭真明 吕健 俞立平 huxn

该博文允许注册用户评论 请点击登录 评论 (5 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-5-12 00:52

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部