俞立平博客——邗上居分享 http://blog.sciencenet.cn/u/yuliping 科技评价、技术创新、信息经济 镜像博客:http://www.yuliping.com

博文

SCI用于评价浅析 精选

已有 9328 次阅读 2020-3-18 16:46 |系统分类:论文交流

    本部分相关内容发表在《情报资料工作》2020年2期。

1. SCI论文评价问题并非是所有SCI论文

SCI论文中,难免有一些掠夺性期刊,这些期刊以盈利为目的,收取高额版面费,对论文质量把关不严。还有一些SCI期刊,其论文质量总体上也不高,存在一些灌水的现象。对于前者,总体上是比较容易判断的,对于后者,判断虽然有一定的困难,但是一般而言,问题主要存在于中国科学院四区的SCI期刊中,其他期刊尽管也有可能存在,但总体上问题不大。

2.宏观评价与微观评价问题

SCI论文的评价对象如图1所示,包括宏观评价与微观评价两个视角,宏观评价主要包括国家地区评价、大学评价、学科团队评价等;微观评价主要是学术人才、管理人才与奖励评价等。学术人才评价包括人才引进、职称评审等;管理人才评价主要指大学或科研院所的行政领导;奖励评价一般是单位内专业技术人员的绩效考核和年终奖励等。

     对于宏观评价,尤其是国家地区以及大学评价等,采用SCI论文评价总体上是没有问题的,这也是世界上主流国家的通行做法,对于学科团队评价,一般规模中等偏上的学科团队,用SCI论文评价也没有问题,但对于一些小学科的小团队,采用代表作制度兼顾论文总量评价可能是更好的办法。

对于微观视角的人才评价,就学术人才评价而言,简单采用SCI论文数量是不合适的,应该重点看论文的内容,以此来判断其创新能力和水平。对于管理人才的评价,评价方法可以类似,但应降低学术要求,毕竟管理人才的主要工作任务是学术行政管理工作,当然对于“双肩挑”人员要充分尊重他们的选择。对于专业技术人员的年终奖励,将SCI论文分为不同级别,然后数论文数量进行奖励是一种较好的做法,有利于减少矛盾,保证公平。

本质上,对SCI论文用于评价,应该区别不同的评价对象和评价目的,分别采取不同的方法,这样才能达到很好的评价目的。

3.文献计量指标多样化与管理简单化冲突问题

迄今为止,无论是国家层面还是地方层面的科技评价,比如基金评审、科研奖励等,填表内容主要是论文题名、期刊名称、分区、被引次数等简单指标,最后评价时不得不采取简单数SCI论文、计算被引次数这些简单的工作。造成这种结果的根本原因,是管理部门的简单化,最后将问题症结归结到SCI论文上。其实随着文献计量学和科学计量学的发展,学术界已经基本解决了科技评价中主要问题,最典型的是h指数家族,就是很好的统计指标,其他指标包括z指数、SJR 指数、特征因子、SNIP、经典指数[16]等,这些指标有几十个,完全可以根据评价需求选用。

4.代表作制度的“代表性”问题

用SCI论文数量对学者进行简单评价无疑是存在问题的,采用代表作制度如果操作规范,会将评价工作向前推进一步。但是由于受学科差异、学科发展速度、评价对象的层次、代表作形式等多种因素的影响,代表作所起的作用是不一样的。比如自然科学的一些学科,代表作大致能说明问题,但哲学社科学科,代表作可能不能起到“代表”作用;对于相对成熟的学科,发展速度比较缓慢,即使是相对较好的研究,创新都不大,代表作也反映不了多大创新,因为代表作论文是同质的;对于学科领域杰出科学家,代表作当然可以代表,但对于一般学者,代表作所起评价作用可能不大;即使是同一学科,如果一位学者主要用论文作为代表作,另一位主要用研究报告作为代表作,二者可比性就会很差。

5.二次同行评议相关问题

首先,采用代表作进行同行评议的可靠性和公平程度不如论文审稿。推广代表作进行评价,必然涉及同行评议,但是代表作的同行评议本质上二次同行评议。第一次同行评议其实是作者给SCI期刊投稿时的同行评议,假设代表作是5篇论文,论文投稿时,如果每篇SCI论文的审稿专家是2人,那么这5篇论文的审稿专家就是10人。假如代表作二次评审的专家是5人,没有任何证据证明这5个同行评议专家的可靠性能够高于论文的10个评审专家。此外,论文投稿时可以完全做到匿名双盲评审,而代表作进行二次同行评议时,是做不到严格匿名评审的,因为即使将论文作者隐藏,根据论文题目或者论文的部分文字也很容易就可以查到作者是谁。

其次,采用代表作评审加大了评审成本,包括时间成本和经济成本。在大力推行代表作评审的情况下,评审任务增加很多,评审专家必然要增加很多,在这种情况下,很难保证评审专家的质量,何况同行评议也有其自身难以克服的问题。

再次,在代表作同行评议工作大大增加的情况下,代表作涉及的学科宽度大大增加,完全超过了论文评审时的知识量。在学术论文评审时,往往是小同行,评审专家一般是三级学科甚至是更小研究方向的同行专家,此时评审效果往往较好。但是在学科或机构评价时,论文方向就是一级学科下不同学者的最好论文,此时要找到知识面这么全的评审专家是非常困难的。

6.数量评价与质量评价脱节问题

教育部关于规范SCI相关指标使用的重要目的之一就是保证创新质量,无论在微观层面还是宏观层面,这都是非常有意义的。但是一定要注意处理好创新数量与创新质量的关系,没有一定的创新数量,很难有较高的创新质量,这一点在宏观评价时尤其重要。比如评价国家重点实验室的质量,采用20篇论文代表作评价,这就是一种面向质量的评价。两个做得都不错的国家重点实验室,各自都能拿出20篇不错的代表作,此时如何区分?其实,如果适当进行数量评价,一个国家重点实验室可以拿出25篇顶级期刊论文,另一个国家重点实验室可以拿出45篇顶级期刊论文,那么哪一个绩效更好就是一目了然的事情。

7. 客观对待以刊评文问题

教育部在文件中明确指出,对于基础研究,论文是成果产出的主要表达形式,坚决摒弃“以刊评文”,评价重点是论文的创新水平和科学价值,不把SCI论文相关指标作为直接判断依据。评价论文的创新水平和学术价值是个世界级的难题,有些论文的学术价值可能需要几十年甚至更长时间才会被世界所认可,在目前判定论文创新水平和科学价值手段还欠缺的情况下,不能一下子取消“以刊评文”。以刊评文在宏观层次的评价中其实有一定的合理性,当然用在微观学者评价时要慎重。比如在进行学科评价时,假设采用40篇代表作进行评价,一家机构有30篇中科院SCI一区论文10篇二区论文,另一家机构有10篇一区论文30篇二区论文,此时以刊评文是没有问题的,以刊评文只是不能用在成果相当的机构评价以及论文较少的学者评价。

8.人才评价缺乏有效的替代手段问题

    在职称和人员聘用中,如果学校不把SCI论文相关指标作为前置条件,“重点考察实际水平、发展潜力和岗位匹配度”,那么用什么来考核人才的实际水平和发展潜力呢?本质上,课题不属于直接科研成果,科研奖励是在论文和课题基础上申报的,是一种间接科研成果,人才工程也是在论文、课题、奖励的基础上申报的,也属于间接成果。能够反映专业技术人员水平和发展潜力的,其实还是学术论文和学术著作,只要不是简单数论文和引用次数就可以了。

9.上级考核要求与高校管理的矛盾

教育部规定高校不宜对院系和个人下达SCI论文相关指标的数量要求,在资源配置时不得与SCI相关指标直接挂钩。要取消直接依据SCI论文相关指标对个人和院系的奖励,避免功利导向。但是由于我国高校的管理体制原因,大学评价、学科评价、人才评价、实验室评价等各种评价层出不穷,尽管教育也提出“减少对学科、学校的排名性评价”,但短期内恐难奏效。只要上级主管部门有考核要求,那么高校难免不将相关指标包括SCI论文通过各种方法转嫁到各个部门和教师个人。

10.对研究生毕业发表论文一刀切问题

教育部提出不宜以发表SCI论文数量和影响因子等指标作为学生毕业和学位授予的限制性条件。其实即使在发达国家,许多高校对研究生毕业的前置条件还是有发表论文要求的,我国的研究生制度包括学术型和专业型硕士,此外不同层次的高校研究生培养水平和质量也相差较大,特别是对一些非双一流建设高校,如果取消论文发表要求,是难以保证研究生培养质量的。其实即使在如今大多数高校研究生毕业有论文发表要求的情况下,我国研究生教育质量仍然有待提高。


                                                            2020.3.18 俞立平 于杭州



https://blog.sciencenet.cn/blog-45134-1224123.html

上一篇:[转载]规范使用SCI下科技评价的问题与解决路径研究
下一篇:规范使用SCI论文评价的几点建议
收藏 IP: 218.109.213.*| 热度|

18 王兴 许培扬 武夷山 杨涛只 杜占池 吴嗣泽 白禹 李剑超 孙颉 黄永义 曾杰 李斐 王启云 周忠浩 王从彦 赵志宏 蔡宁 诸平

该博文允许注册用户评论 请点击登录 评论 (41 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-4-20 11:37

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部