|
大学排名这个问题是富有争议的。一直以来,对世界知名排行榜如ARWU(通常称作上海排名)、THE以及QS的批评声不绝于耳。然而,各高校仍然对为了在这些排行榜中获得好的排名而倍感压力,这也使得他们会在进行决策时对这些排名给予相当大的关注。
2017年CWTS莱顿排名正式公布,我们也借由这个机会来对大学排名的正用和误用做一些说明。为了更好地引导大学、学生、政府和其他利益相关者负责任的使用的大学排名,以下我们列出了有关大学排名的设计、解读与使用的10条基本准则。在对这些准则进行讨论的时候,我们会尤其关注莱顿排名以及它与ARWU, THE, 和 QS 三大排名的区别。
以下对于负责任使用科学计量工具所提出的准则并不新。2015年,我们就在莱顿宣言上提了出来。莱顿宣言涉及的是一般意义上的科学计量指标,而下面这些准则主要是针对大学排名而言。其中的一些可以说是基于大学排名对莱顿宣言中一些观点的整合。
关于大学排名可以举出很多复杂的问题,我们所提出的10大准则很显然不能回答所有的问题。提出这些准则,我们主要根据在做莱顿排名时的一些经验、在参与大学排名的讨论、以及关于大学排名的一些科学文献和政策报告,当然我们也清晰的知道准则需要进一步的修改与细化,因此也十分欢迎能收到批评性的反馈意见。
一、大学排名的设计
1、不应该使用一般性概念来评判院校绩效表现
泰晤士排名宣称提供“世界最好大学的权威性名单”,其他一些主要的大学排名有时也做出相似的声明,这其实是很成问题的。不同的大学排名使用者对不院校绩效有不同的关注维度,所以一个关于“最好大学”的共同的观点是不存在的。一所大学是否表现良好或是不好是基于各自感兴趣的维度的,举个例子,一些大学可能在教学方面做得好,而另一些大学则是在研究上面做得好,并没有一个合适的方式能把在某个维度上表现的好和在另一个维度表现的不太好进行相比。
对大学绩效使用一般性概念进行评判这个问题实质也存在于AEWU、THE、QS这些排名使用的综合指标里。这些综合性指标以一种任意的方式将大学绩效的不同维度组合在一起,而这些综合性指标的根本性问题就在于使得大学绩效情况基于一些定义糟糕的概念。
莱顿排名只考虑大学的科研绩效而不考虑其他维度,如教学表现,更具体的说,是基于大学在国际科学杂志上的出版物,莱顿排名聚焦大学的科研影响力,以及在科学合作方面的参与度。在莱顿排名里,大学科研绩效的不同方面将会被分别量化,而非创建综合性指标。
2、需要在大学绩效的尺寸依赖和尺寸独立指标之间进行清晰的区分
尺寸依赖指标聚焦大学的整体表现,尺寸独立指标则聚焦有关大学规模或是拥有资源情况的绩效评估。尺寸独立指标可以用来鉴定大学,从而对他们的规模方面的问题产生总体影响。如果把它们组合起来使用综合性指标,就像ARWU排名做的那样,没有什么意义。在莱顿排名中,尺寸依赖指标和尺寸独立指标将会有比较清晰的区分。
大学排名的使用者需要明白构建恰当的尺寸独立指标是非常具有挑战性的。这些指标需要大学尺寸的精确数据,如学校研究者数量或是研究经费数量的国际标准化数据,而这些数据是很难获得的。莱顿排名不使用这样的数据,而是通过使用大学的发表作品来创建尺寸独立指标,作为大学尺寸的替代指标。
3、应该以一种一致性的方式来看待大学
为了确保能够对大学进行比较正确的对比,应该尽可能的以一种一致性的方式来进行。当一所大学的排名依赖大量的数据资源(文献计量学数据库、问卷、大学自己提供的数据等等),对它的界定就应该在不同的数据来源中找到一致性。但是,仅仅根据一种数据来源,想要获得一致性也是一个巨大的挑战。例如,当利用文献计量学数据,一个主要的问题就是与大学联系的医院的治疗情况的一致性。全球上来说都具有比较大的不同,而且会在与大学有关的公立医院及与学校有关的地方医院看法上有显著差异。国际层面上来说,完美的一致性很难获得,但是大学排名应该尽可能的确保大学排名能够具有一致性。排名也应该解释他们用来评价院校的方法,像莱顿排名就提供这样的说明。不幸的是,现在一些主要的排名像 ARWU, THE和QS并没有很清晰的说明他们是如何对院校进行界定的。
4、大学排名应该是完全透明的
使用排名的人至少需要对于这个排名是如何设计的有一个基本的了解,因此大学排名需要是完全透明的。他们需要以一种足够细致的方式说明他们他们所用的方法,像ARWU, THE,和QS确实有提供方法上的解释,但是这个解释太笼统了,而莱顿排名提供了一种更加细致的方法论说明。理想化来说,大学排名的透明化从更深远的意义上来看,需要在排名的基础上提供数据,比如让排名使用者们不仅仅看到学校有多少高被引文献,还应该说明哪些是高被引文献,或者它应该让使用者们不仅仅看到在专利中被引用的大学出版物的数量,还应该说明具体专利是什么。大部分的大学排名,包括莱顿排名,还没有达到这个层次的透明,既因为一些源数据的专有性,也因为排名者们处于商业利益的考虑。
二、大学排名的解读
5、在明确不同大学的差异的前提下对各所大学进行比较
每所大学都有它自己独特的地方,也有自己不同的使命和制度环境。大学排名也会反映出这些区别,因此在对排名进行解读的时候需要加以考虑。举个例子,在荷兰有所大学可能是被认为比美国的某所大学更加国际化的,同样的,一所以建筑研究为重点的院校可能就会被认为比一所社会科学类的院校与工业的联系更强。从某种程度上来说,大学排名就是进一步对不同大学学科重点进行了厘清和纠正。所谓的领域标准化指标就是考虑这个目的,但是这些指标却仅仅被用作考评院校绩效特定方面,如根据引用数据来量化科研影响力,而对于院校绩效的其他方面,并没有对学科概况的更正内容,像在莱顿排名里这些综合的指标也并没有对此纠正。对这些大学排名中指标的解读,应该要仔细说明大学的整个学科概况有没有被正确厘清。
6、承认大学排名的不确定性
大学排名是受各种各样的不确定性影响的。第一,排名中的指标通常不会精确地包括所有相关感兴趣的方面,举个例子,引用数据让我们了解一所大学研究影响力,但是他们仅仅反映的是粗略的情况;第二,排名也会因源数据是否精确以及在进行指标计算时的技术选择(看似不起眼)的影响;第三,大学排名还会具有一些不确定性,比如在某段特定时间内某所大学由于经历一些巧合事件而影响到绩效,这样就不能完全从一般意义上完全代表院校绩效情况。意识到排名中的各种不确定性是一件很重要的事,从某种程度上说,是有可能去量化排名中的不确定因素的(例如莱顿排名中使用的稳定区间),但是在很大程度上说,还是要对这些不确定性因素做一个直观的评估。实际上,这就意味着最好不要对大学之间小的绩效差别过多关注,同样的,一段时间内一所学校的比较小的绩效波动也最好忽略它,而应该将重点聚焦在时间趋势中呈现出的院校的结构模式上。
7、避免仅仅关注大学排名的排名情况,而应该考虑到基本指标的价值性
大学排名”这个术语有些让人感到遗憾的,因为它暗示了对大学的排名的关注,而会增加了人们忽略基本指标的价值性的风险。将关注点聚焦在大学的排名上是具有误导性的,因为一些有些十分相似价值理念的院校可能因为特定指标的不同而有着差异很大的排名。举个例子,当根据莱顿排名中院校的高被引文献的比例对他们进行排名时,其实排名300的大学其实仅仅比排名200的院校少了10%的高被引文献。通过聚焦大学排名,一所大学可能看上去比另外一所表现的要好很多,然而实际上绩效差异可能相对来说是很小的。
大学排名的使用者们也要明白当在某个排名里包含的学校的数量增加时,一所大学的名次也可能会下降,这样的一种下降可能会被误读成这所院校绩效表现的不好。基本指标的价值所在就是能够说明实际上学校绩效没有变得不好,排名的下降只是完全由于排名中院校的数量增加了而已。
三、大学排名的使用
8、不应该忽视那些大学排行榜里没有包含的院校绩效的维度
大学排名主要聚焦院校绩效的一些特定维度,通常来说那些维度都比较容易量化。如莱顿排名就聚焦的范围比较窄,主要关注一些特定的面如大学的科研绩效。一些其他的排名范围会更广一些,像多维全球大学排名”(U-Multirank),可能是最综合的排名系统了。但是,还没有哪一个排名能够涵盖所有的大学绩效的各个相关维度,像教学表现和社会影响力就是两个大学排名中没有很好覆盖到的典型。在科研绩效方面,科研影响力和合作可以很好的捕捉到,但是科研产出就比较难了。不应该忽视在大学排名中没有完全涵盖所有的院校绩效各个维度这个问题,排名的使用者们应该知道,就算是最综合的排行也仅仅提供了了解院校绩效的部分视角,使用者们需要的信息应该处于领导地位,而非受排行榜提供的信息领导。
9、学校层面的相关绩效标准不应该被自动的认为是和研究小组的院系层面的标准具有同样的相关性
作为一个整体而言,学校层面的绩效标准未必和研究组或院系层面的标准是相关的。例如可能在学校层面来说,去看这所学校文章被引用在国际科学文献上的频率对于了解这所学校的绩效是有用的,但是对于特定的研究组来说,像一个人文学科的研究小组,这个指标可能并不是非常有用的绩效判定标准。类似的,了解一所大学论文发表的一个方式是可以看和工业伙伴的合作,但是对于一个在商业应用方面潜力不大的研究小组来说,这可能就不是一种最合适的绩效判定标准。对于一所大学来说机械性的将绩效标准从院校层面直接传递到下一级层面是比较容易去做的,但这样的方式需要避免。尤其是在一些根据核心绩效指标来部分决定学校内部资源分配的院校里就尤其重要,经常是这样的。
10、应该慎重对待大学排名,而不应该把它们看做是完全没用
当用负责任的方式,大学排名还是可以为大学、研究者、学生、研究资助机构、政府和其他利益相关者提供相关的信息的,因为通常情况下它们为了解大学绩效情况提供了一个有用的国际比较视野。大学的管理者可以从排名中获得有用的信息来支持决策,也让大学的优势显现出来。但是,当在做这些的时候,还是需要不断的强调大学排名的局限性和使用时的注意事项。
(编译:赵蓉,里瑟琦智库研究助理。文章来源:https://www.cwts.nl/blog?article=n-r2q274&title=ten-principles-for-the-responsible-use-of-university-rankings )
Archiver|手机版|科学网 ( 京ICP备07017567号-12 )
GMT+8, 2024-9-1 13:12
Powered by ScienceNet.cn
Copyright © 2007- 中国科学报社