俞立平博客——邗上居分享 http://blog.sciencenet.cn/u/yuliping 科技评价、技术创新、信息经济 镜像博客:http://www.yuliping.com

博文

[转载]规范使用SCI下科技评价的问题与解决路径研究

已有 4610 次阅读 2020-3-17 23:37 |个人分类:科学计量|系统分类:论文交流|文章来源:转载

本文发表于2020年2期《情报资料工作》,以下为公众号推送及论文全文。

    教育部、科技部发布关于规范SCI论文相关指标适用的若干建议,摈弃“以刊评文“,实行代表作制度。其实SCI论文数量更适合宏观评价,代表作更适合微观评价;SCI论文评价问题并非SCI论文自身问题;文献计量学和科学计量学的一些优秀指标已经基本解决了科技评价问题,管理部门应用较少,结果导致SCI论文“背锅”。

    “以刊评文”存在的问题在微观层面,但在宏观评价领域仍是一种有效手段。采用代表作评价,代表作的“代表性”与学科类型、学科发展速度、代表作形式、水平高低等因素相关,许多情况下代表作难以代表水平,何况仅用数量进行科技评价是不够的。代表作评价是二次同行评议,无法做到双盲评审,公平程度有所下降,评审成本增加。

    建议采取如下措施:第一,以科技部公布的三类高质量论文期刊、SCI前三区期刊作为科研考核的主要标准;第二,对于那些掠夺性期刊,办刊质量低下的期刊,坚决将其列入黑名单;第三,应采用代表作结合一定级别期刊论文数量的方法进行综合评价;第四,SCI论文评价问题的形成非一日之功,其解决也应该循序渐进,政策力度不宜过大;第五,SCI论文一定程度上已经成为一种科研符号,SCI论文总体没有问题,我们一定要努力维护SCI论文的科研符号功能,弘扬科研信仰!

——————————————————————————————————————————————

规范使用SCI下科技评价的问题与解决路径研究

俞立平 
1

引言

        规范高等学校SCI 论文相关指标使用的目的是为了改进科技评价工作。在2018年两院院士大会上,习近平指出:人才评价制度不合理,唯论文、唯职称、唯学历的现象仍然严重。随后不久,科技部、教育部等5部门联合发文,要求开展清理唯论文、唯职称、唯学历、唯奖项专项行动。20187月,两办印发《关于深化项目评审、人才评价、机构评估改革的意见》,明确突出品德、能力、业绩导向,克服唯论文、唯职称、唯学历、唯奖项倾向,推行代表作评价制度,注重标志性成果的质量、贡献、影响。20202月,教育部、科技部研究制定了《关于规范高等学校SCI论文相关指标使用 树立正确评价导向的若干意见》,目的是为了破除论文“SCI至上,探索建立科学的评价体系,营造高校良好创新环境,加快提升教育治理体系和治理能力现代化水平。

 

        SCI论文用于科技评价长久以来一直存在一些问题和争议。我国从20世纪80年代开始逐渐将SCI论文应用于科技评价,早期取得了良好的效果。但是,随着我国科技水平日渐提高,SCI论文用于科技评价的弊端也不端显现,比如SCI引用次数不能代表论文质量,片面追求SCI论文发表数量忽视了质量的提高,违背科学研究的初衷,大量版面费支出和科技论文版权转移,对国内中文核心期刊发展不利,以刊评文等等。可以说,这些问题已经得到了学术界和公众的公认,教育部发布规范SCI论文相关指标使用文件,就是在这样的背景下产生的。破除论文SCI至上,如果措施得当,无疑有利于优化科技评价方法,逐步解决SCI论文评价中存在的问题,净化学术空气,从根本上提高我国的科技创新能力和水平。

 

        研究SCI论文评价中存在的问题并提出改进建议具有重要意义。第一,分析SCI论文存在的问题及其成因,有利于发现主要矛盾,寻找应对之策;第二,客观评价SCI论文用于评价的功过,促进SCI论文评价的规范使用;第三,在破除SCI论文至上过程中,可能会产生新的问题,需要思考解决方案;第四,提出具体的解决问题的政策建议,便于改进科技评价工作。

 

        SCI论文用于科技评价有其可取之处,涌现出大量的评价应用,涉及国家评价、大学评价、学科评价、机构评价等。Bordons 等指出,在一般情况下,一个国家、地区、机构所产出的SCI论文的数量,是衡量其科研活动水平的一个很好的指标。Gupta 等采用SCI论文数量、增长率、合作论文数、学科论文数、机构论文数等,选出世界上科研能力最发达的20个国家。Hamid 等采用SCI年度论文数量、论文平均增长率、论文被引频次、篇均被引频次、h指数等分析摩洛哥的科研实力。Nikolaos 等采用SCI论文数量、论文被引用量、h指数等指标,对希腊医学院的学科水平进行评价。郑彦宁等基于SCIE数据库,比较了不同国家基因编辑领域的研究实力。任胜利等指出SCI的引文统计数据用于宏观层次 (如国家或研究机构) 的整体科研评价更具有统计和指导意义。肖广岭、李峰等认为从宏观层面来看,论文是衡量一个国家科技创新绩效的重要指标,国外科技强国也采用论作为人才评价指标。

 

         SCI作为一个科技论文索引数据库,其自身存在一些不足。宋伟指出SCI自身存在问题包括学科分布不均、国家分布不均、刊物筛选的缺陷、影响因子的缺陷(自引、反引、影响因子操纵)等等。宋扉、冯景认为JCR分区误导使得期刊评价有失公平,如不分期刊种类带来的不公平、多分组引起分区不清。史竹琴、朱先奇则研究了ESI存在的问题,ESI是在SCI和SSCI基础上建立的高被引数据库,主要问题是采取比较简单的统计方式,每一个合著者都平等对待,ESI在处理重名时不够精确。王泽蘅根据中日论文外流数量差异特点将学科分为三类,影响论文外流差异的直接原因是中日两国每年发表的 SCI 论文数量以及SCI 收录两国期刊对本国论文的承载量不同,间接原因是该国论文所采用的语言、论文质量等。

 

        关于SCI在评价中存在的问题,孙涛认为SCI由检索工具异化为学术评价、科研评价的指挥棒,SCI论文与帽子、头衔、经济利益等产生了直接的联系。王晓君等提出我国已成为SCI产出大国,涌现出了很多高质量论文,但论文总体质量偏低。王泽蘅、邱长波指出当前以SCI为视角的科技评价受到广泛关注,但缺少对评价指标的合理数量、评价指标间的关系、评价方法的适用性等研究。周华强等研究认为,应回归论文提高人才基本科学能力的本质作用,认可论文在人才评价的重要作用,补充不同工作性质的特性指标,反对人才评价中的唯论文论和论文无用论。

 

        从现有的研究看,关于SCI论文在评价中的应用研究非常丰富,对于其存在的问题也有不少研究。规范SCI论文在评价中的应用必然对原有的评价体系和评价方法带来一些影响,有必要进行深入的研究。


2SCI
论文用于评价存在的问题分析

2.1 SCI论文评价问题并非是所有SCI论文

 

        SCI论文中,难免有一些掠夺性期刊,这些期刊以盈利为目的,收取高额版面费,对论文质量把关不严。还有一些SCI期刊,其论文质量总体上也不高,存在一些灌水的现象。对于前者,总体上是比较容易判断的,对于后者,判断虽然有一定的困难,但是一般而言,问题主要存在于中国科学院四区的SCI期刊中,其他期刊尽管也有可能存在,但总体上问题不大。

 

2.2宏观评价与微观评价问题

 

        SCI论文的评价对象如图1所示,包括宏观评价与微观评价两个视角,宏观评价主要包括国家地区评价、大学评价、学科团队评价等;微观评价主要是学术人才、管理人才与奖励评价等。学术人才评价包括人才引进、职称评审等;管理人才评价主要指大学或科研院所的行政领导;奖励评价一般是单位内专业技术人员的绩效考核和年终奖励等。



        对于宏观评价,尤其是国家地区以及大学评价等,采用SCI论文评价总体上是没有问题的,这也是世界上主流国家的通行做法,对于学科团队评价,一般规模中等偏上的学科团队,用SCI论文评价也没有问题,但对于一些小学科的小团队,采用代表作制度兼顾论文总量评价可能是更好的办法。

 

        对于微观视角的人才评价,就学术人才评价而言,简单采用SCI论文数量是不合适的,应该重点看论文的内容,以此来判断其创新能力和水平。对于管理人才的评价,评价方法可以类似,但应降低学术要求,毕竟管理人才的主要工作任务是学术行政管理工作,当然对于“双肩挑”人员要充分尊重他们的选择。对于专业技术人员的年终奖励,将SCI论文分为不同级别,然后数论文数量进行奖励是一种较好的做法,有利于减少矛盾,保证公平。

 

        本质上,对SCI论文用于评价,应该区别不同的评价对象和评价目的,分别采取不同的方法,这样才能达到很好的评价目的。

 

2.3文献计量指标多样化与管理简单化冲突问题

 

        迄今为止,无论是国家层面还是地方层面的科技评价,比如基金评审、科研奖励等,填表内容主要是论文题名、期刊名称、分区、被引次数等简单指标,最后评价时不得不采取简单数SCI论文、计算被引次数这些简单的工作。造成这种结果的根本原因,是管理部门的简单化,最后将问题症结归结到SCI论文上。其实随着文献计量学和科学计量学的发展,学术界已经基本解决了科技评价中主要问题,最典型的是h指数家族,就是很好的统计指标,其他指标包括z指数、SJR 指数、特征因子、SNIP、经典指数等,这些指标有几十个,完全可以根据评价需求选用。

 

2.4代表作制度的“代表性”问题

 

        用SCI论文数量对学者进行简单评价无疑是存在问题的,采用代表作制度如果操作规范,会将评价工作向前推进一步。但是由于受学科差异、学科发展速度、评价对象的层次、代表作形式等多种因素的影响,代表作所起的作用是不一样的。比如自然科学的一些学科,代表作大致能说明问题,但哲学社科学科,代表作可能不能起到“代表”作用;对于相对成熟的学科,发展速度比较缓慢,即使是相对较好的研究,创新都不大,代表作也反映不了多大创新,因为代表作论文是同质的;对于学科领域杰出科学家,代表作当然可以代表,但对于一般学者,代表作所起评价作用可能不大;即使是同一学科,如果一位学者主要用论文作为代表作,另一位主要用研究报告作为代表作,二者可比性就会很差。

 

2.5二次同行评议相关问题

 

        首先,采用代表作进行同行评议的可靠性和公平程度不如论文审稿。推广代表作进行评价,必然涉及同行评议,但是代表作的同行评议本质上二次同行评议。第一次同行评议其实是作者给SCI期刊投稿时的同行评议,假设代表作是5篇论文,论文投稿时,如果每篇SCI论文的审稿专家是2人,那么这5篇论文的审稿专家就是10人。假如代表作二次评审的专家是5人,没有任何证据证明这5个同行评议专家的可靠性能够高于论文的10个评审专家。此外,论文投稿时可以完全做到匿名双盲评审,而代表作进行二次同行评议时,是做不到严格匿名评审的,因为即使将论文作者隐藏,根据论文题目或者论文的部分文字也很容易就可以查到作者是谁。

 

        其次,采用代表作评审加大了评审成本,包括时间成本和经济成本。在大力推行代表作评审的情况下,评审任务增加很多,评审专家必然要增加很多,在这种情况下,很难保证评审专家的质量,何况同行评议也有其自身难以克服的问题。

 

        再次,在代表作同行评议工作大大增加的情况下,代表作涉及的学科宽度大大增加,完全超过了论文评审时的知识量。在学术论文评审时,往往是小同行,评审专家一般是三级学科甚至是更小研究方向的同行专家,此时评审效果往往较好。但是在学科或机构评价时,论文方向就是一级学科下不同学者的最好论文,此时要找到知识面这么全的评审专家是非常困难的。

 

2.6数量评价与质量评价脱节问题

 

        教育部关于规范SCI相关指标使用的重要目的之一就是保证创新质量,无论在微观层面还是宏观层面,这都是非常有意义的。但是一定要注意处理好创新数量与创新质量的关系,没有一定的创新数量,很难有较高的创新质量,这一点在宏观评价时尤其重要。比如评价国家重点实验室的质量,采用20篇论文代表作评价,这就是一种面向质量的评价。两个做得都不错的国家重点实验室,各自都能拿出20篇不错的代表作,此时如何区分?其实,如果适当进行数量评价,一个国家重点实验室可以拿出25篇顶级期刊论文,另一个国家重点实验室可以拿出45篇顶级期刊论文,那么哪一个绩效更好就是一目了然的事情。

 

2.7 客观对待以刊评文问题

 

        教育部在文件中明确指出,对于基础研究,论文是成果产出的主要表达形式,坚决摒弃“以刊评文”,评价重点是论文的创新水平和科学价值,不把SCI论文相关指标作为直接判断依据。评价论文的创新水平和学术价值是个世界级的难题,有些论文的学术价值可能需要几十年甚至更长时间才会被世界所认可,在目前判定论文创新水平和科学价值手段还欠缺的情况下,不能一下子取消“以刊评文”。以刊评文在宏观层次的评价中其实有一定的合理性,当然用在微观学者评价时要慎重。比如在进行学科评价时,假设采用40篇代表作进行评价,一家机构有30篇中科院SCI一区论文10篇二区论文,另一家机构有10篇一区论文30篇二区论文,此时以刊评文是没有问题的,以刊评文只是不能用在成果相当的机构评价以及论文较少的学者评价。

 

2.8人才评价缺乏有效的替代手段问题

 

        在职称和人员聘用中,如果学校不把SCI论文相关指标作为前置条件,“重点考察实际水平、发展潜力和岗位匹配度”,那么用什么来考核人才的实际水平和发展潜力呢?本质上,课题不属于直接科研成果,科研奖励是在论文和课题基础上申报的,是一种间接科研成果,人才工程也是在论文、课题、奖励的基础上申报的,也属于间接成果。能够反映专业技术人员水平和发展潜力的,其实还是学术论文和学术著作,只要不是简单数论文和引用次数就可以了。

 

2.9上级考核要求与高校管理的矛盾

 

        教育部规定高校不宜对院系和个人下达SCI论文相关指标的数量要求,在资源配置时不得与SCI相关指标直接挂钩。要取消直接依据SCI论文相关指标对个人和院系的奖励,避免功利导向。但是由于我国高校的管理体制原因,大学评价、学科评价、人才评价、实验室评价等各种评价层出不穷,尽管教育也提出“减少对学科、学校的排名性评价”,但短期内恐难奏效。只要上级主管部门有考核要求,那么高校难免不将相关指标包括SCI论文通过各种方法转嫁到各个部门和教师个人。

 

2.10对研究生毕业发表论文一刀切问题

 

        教育部提出不宜以发表SCI论文数量和影响因子等指标作为学生毕业和学位授予的限制性条件。其实即使在发达国家,许多高校对研究生毕业的前置条件还是有发表论文要求的,我国的研究生制度包括学术型和专业型硕士,此外不同层次的高校研究生培养水平和质量也相差较大,特别是对一些非双一流建设高校,如果取消论文发表要求,是难以保证研究生培养质量的。其实即使在如今大多数高校研究生毕业有论文发表要求的情况下,我国研究生教育质量仍然有待提高。



3规范使用SCI论文评价的几点建议

3.1以高水平SCI期刊作为评价依据

 

        科技部提出,鼓励发表高质量论文,包括发表在具有国际影响力的国内科技期刊、业界公认的国际顶级或重要科技期刊的论文,以及在国内外顶级学术会议上进行报告的论文。目前三类高质量论文涉及的期刊是中国科技期刊卓越行动计划中公布的285种期刊,数量非常少,而且有些学科没有一本期刊入选。建议要加大SCI期刊入选范围,将中科院一区、二区、三区期刊列入到考核指标,这三区期刊目前仅占SCI期刊的35%,总体质量较高,用其评价具有较好的代表性。

 

3.2强化黑名单制度

 

        2018年国务院办公厅印发《关于进一步加强科研诚信建设的若干意见》,首次提到了学术期刊黑名单问题。科技部也发文提出定期发布国内和国际学术期刊的预警名单,并实行动态跟踪、及时调整。将管理和学术信誉差、商业利益至上的学术期刊,列入“黑名单”。对于那些掠夺性期刊,办刊质量低下的期刊,国外期刊一旦发现,立即剔除出考核期刊目录,国内期刊发现问题的,限期进行整改,整改后还有较大问题的,坚决关停,这样就保证了SCI论文作为评价指标的基本质量。

 

3.3宏观评价要发挥SCI论文的主导作用

 

        在宏观科技评价中,包括国家地区评价、大学评价和学科团队评价,应发挥SCI论文的主导作用,不同级别SCI期刊赋予不同权重,然后综合其他科技评价指标进行综合评价,以降低评价成本,提高评价效率。SCI在宏观评价中存在的问题,本质与简单数论文数量相关,采用指标体系进行评价,SCI论文仅仅是一种一项指标,这就大大改善了科技评价效果。

 

3.4鼓励采用一些文献计量指标进行评价

 

        在科技评价中,评价指标不宜简单化,比如传统用SCI论文数量、被引次数等进行评价,这是问题产生的根源。应根据评价目的,筛选一些优秀的评价指标评价,如h指数家族的一些指标,特征因子、z指数等。SCI论文的评价问题,许多是对文献计量指标不重视所致。比如考核学科和团队,他引h指数就是一个不错的指标,适当优化后评价效果会更好。特征因子可以反映学科和团队论文的被引质量,也是个不错的评价指标。

 

3.5微观评价建议兼顾代表作与SCI论文数量

 

        在微观科技评价如人才评价、小学科评价等,建议建立指标体系进行综合评价。指标体系中,一方面应包括代表作评价得分,另一方面应包括不同级别期刊数量的得分(图2)。至于代表作评价与论文数量评价的权重分配,建议代表作评价的权重为0.4,论文数量评价的权重为0.6,传统采用侧重SCI论文数量的评价,有一定的合理之处,规范使用SCI论文评价,也需要考察一段时间,应兼顾两者的比重,在新方法没有确认有效之前,适当侧重传统评价方法是合理的。至于论文级别的权重,可采取1篇一区期刊视同两篇2篇二区期刊,1篇二区期刊视同2篇三区期刊的做法。对于中文论文,可根据一定的规则参照对应。此外还应该兼顾课题、奖励等其他指标,从而全面做出科学合理的评价。这样处理降低了代表作代表性差的误差,也能适当降低同行评议的负面影响。

 

 

3.6一般高校对研究生毕业论文应该有所要求

 

        无论是什么高校,对于专业型博士毕业,可以降低SCI论文发表数量要求,对于专业型硕士毕业,可根据情况取消SCI论文发表要求。对于一流大学建设高校以及一流学科建设高校中的一流学科,由于其研究水平高,学生生源素质较好,在学术型博士研究生培养中,对毕业发表论文的要求可以视学科降低要求,必要时取消对毕业发表SCI论文数量的要求;对于学术型硕士,视情况可以取消毕业对SCI论文的发表要求。对于其他一般高校一级一流学科建设高校的其他学科,学术型博士培养还是应该强调SCI论文发表要求,学术型硕士培养可根据情况而定。



4几点思考

4.1SCI论文的规范应用需要深化高校科技管理体制改革

 

        SCI论文用于评价存在的一些问题,其根源受我国的高等教育体制影响。要解决存在的问题,也必须从深化我国高等教育的科技体系改革入手:第一,优化科技资源分配体系,提高科技资源分配的公正性,保证公开、公正、透明;第二,加强高校的科研自主权,充分发挥高校在科技创新、人才培养中的主体作用,大力减少行政干预;第三,改革高校分配体系,优化教师激励机制;第四,大力改革高校科研体制,将管理型改为服务型;第五,营造科研氛围,净化学术空气,让真正的科研人员能安心做学问。

 

4.2解决SCI论文的评价问题需要循序渐进

 

        SCI论文在科技评价中的异化问题并非一日形成,其得到根本的解决也应该循序渐进。科技部建议论文采取代表作评价,并提出中文论文不宜低于三分之一。但是政策颁布后,如果没有中文论文怎么办?全部用英文论文明显违反规定。即使有中文论文,但是一流论文以前均是采用英文发表的,中文论文质量相对较低,也起不到代表作的作用。再比如高校取消SCI论文奖励,这是多年来各高校形成的激励模式,一旦取消,也需要一个过程。此外在人才评价中,多年来的习惯已经养成,职称评审中论文本来也是送审的,突然弱化SCI论文,以代表作评价为准,操作也有难度。类似问题还有很多,解决需要一个过程。

 

4.3要重视SCI论文的科研符号功能

 

        SCI论文用于科技评价出现许多问题,原因是多方面的。但是如果换个角度,从SCI论文的贡献看,我国目前SCI论文已经位列世界第二,充分说明我国在基础研究领域中的世界地位,试想一下如果不是SCI论文,拿什么来证明中国基础研究水平的进步。某种程度上,SCI论文已经成为一种科研符号。大家都知道千金买马骨的故事,与我国在基础研究领域取得的成绩相比,SCI论文问题根本不值得一提。我们一定要明确,SCI论文在评价中是存在一些问题,但科学研究没有问题,SCI论文总体也没有问题。千万不能让公众将SCI在论文评价中的问题视为SCI论文问题!我们一定要努力维护SCI论文的科研符号功能,弘扬科研信仰!

 

                                                     2020.3.17 俞立平于杭州





https://blog.sciencenet.cn/blog-45134-1224036.html

上一篇:代表作评价十问
下一篇:SCI用于评价浅析
收藏 IP: 218.109.213.*| 热度|

1 刘跃

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-12-28 13:19

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部