管理者无能——以期刊影响因子(人家的垃圾)考核科研人员误人子弟

发布时间:2016-07-21 10:19:36

 
此主题相关图片如下:1.png

在衡量期刊水平的众多指标中,期刊影响因子(Journal Impact Factor, JIF)无意是当中的主要指标,然而,它并不能合适地反映单篇文章的影响---这一常识被文献计量员(bibliometrician)、期刊 编辑和科研管理人员等反复地提及到。然而,很多研究人员和研究评估小组继续将这种错误的指标与研究质量等同起来,并以此作为研究人员获得资金资助、雇佣和晋升的决策手段。

为了强烈地支持抛弃这种误人子弟的习惯,7份代表性的期刊和2家独立的科研机构团结在一起,共同发声反对利用期刊水平指标衡量个人的科学价值。结果就是加拿大蒙特利尔大学、英国帝国理工学院、PLoS期刊、eLife期刊 、EMBO期刊、英国皇家学会、Nature期刊和Science期刊本周在生物学预印网站BioRxiv合作发表一篇文章。利用我们自己的众多期刊,我们提供数据解释为何没有一篇文章能够依据它所发表的期刊的影响因子来进行评价。 

这篇合作完成的文章呈现了11份期刊(包括PLoS BiologyPLoS GeneticsPLoS ONE)的频率曲线图(即引用分布图),其中这些期刊的影响因子从小于3到30以上(以2015年计算出来的影响因子)。尽管影响因子存在差异, 但是引用分布图之间的类似性是显著的:所有的引用分布图均为左偏态分布(相比于期刊影响因子,绝大多数文章具有相对较少的引用),而且引用次数相差几个数量级。然而,最为重要的观察结果是在期刊引用分布上存在大幅的重叠。 本质上就是,两篇发表在影响因子差别很大的期刊上的文章很可能具有相同的引用数量。

相同的引用分布

通过发布这些数据,我们希望加强最初是由Stephen Curry提出的行动呼吁,并且鼓励其他期刊加入进来。本着响应这一行动呼吁的精神,我们在下面呈现出7份PLoS期刊的频率曲线图[图1]。不用说,这些频率曲线图没有令人 吃惊的地方。尽管文章数量存在显著差异,但是这些期刊的引用分布图明显地向左偏移(较低的引用),同时带有一个长长的向右延伸的尾巴(较高的引用),而这种分布模式因期刊影响因子的使用而被掩盖了。
 



我们并不是要拒绝期刊之间存在着不同,这是因为它们反映着不同的文章类型、编辑标准、出版范围和数量。这些差异是显著的,比如,当考虑投稿PLoS ONE期刊---在该期刊中,文章是基于技术上合理和有强大说服力的报道而不是基于感知到的影响或大众兴趣进行选择---时。这些标准能够允许发表小规模的研究,或者那些具有负面的、无效的或不确定性的结果的研究,这可能不能获得很高的引用率,但是在消除文章发表偏见中起着至关重要的作用。期刊出版范围包括具有不同引用习惯和研究专业领域的学科和通常引用率较低的社会科学。而且,鉴于出版数量并不是人为限制的,这些因素就可解释相对较多的文章具有较少的引用率或根本就未被引用(类似的解释也适用于分析Scientific Reports期刊的引用分布图)。这并不意味着PLoS ONE期刊(或者Scientific Reports期刊)就不发表具有高引用次数的文章。

相反地,2013年的一项研究表明PLoS ONE期刊在众多文献中具有相对不错数量的最高引用次数的文章(相对于它发表的文章数量)。在2015年的引用分布图中,组成PLoS ONE期刊高引用次数尾巴的文章数量也是相当可观的 。

负面影响

促进我们发起提高认识的动机在于与呼吁的行动相反的是,期刊影响因子仍然是评价科学家们的一种流行的工具。这经常可以归结于方便、缺乏时间和也没有适合的替代选择,但是这也是一种文化问题。滥用期刊影响因子已 变成很多大学和国家评估小组的研究评估方法中的惯例,这就导致一种不合理的激励制度产生。

对研究人员而言,在选择一份期刊时,“胸怀大志的”职业晋升和声誉赢取也不容忽视,即便结果是在投稿时,沿着期刊影响因子梯子向下投,每投一次往下降一级,一次接一次被拒绝发表。这种逐次提交文章的模式不只是对期刊编辑和评审员带来巨大的负担,它也在使得研究结果让更加广大的科研人员和大众获得方面遭受不必要地和不可接受地延迟。更糟糕的是,研究人员感觉有必要改变他们的实验或分析方法从而使得提交的文章手稿对一种期刊或另一种期刊更有吸 引力。由此造成的深远影响表现在其他方面---极大地抑制科研人员去开展有风险且耗时的研究项目,发表负面的研究结果,或者开展跨学科研究。这也给科研人员提供强大的动机涌向已经过度拥挤的领域,并且建立一种过度竞争性的系统而越来越不利于研究生和职业早期的研究人员。

行动起来

无法逃避的事实是一篇文章仅当阅读它时才能够得到合适地评价。然而,有工具帮助过滤一篇文章可能在科学文献中的影响范围,而且不仅是存在于学术研究团队中。几种平台提供文章水平指标(article-level metrics, ALM)评估, 包括PLoS出版商自己的ALM服务(PLoS ALM),该服务提供引用次数和其他关于阅读总数和社会关注的指标。PLoS ALM所采用的开放软件Lagotto为文章交叉引用事件追踪(Crossref's Event Tracker)提供支撑,以便捕捉一系列与任何一种 数字对象标识符(digital object identifier, DOI)相关联的使用量。

然而,没有单个指标能够准确地反映不同的研究成果的不一样的影响(就像Metric Tide报道和Leiden Manifesto研究指标所指出的那样)。最终,当专家们深入地了解和依赖他们的同行的评审结果时,科学界需要一种更好的方法来获取和沟通在经过一段评审时间后针对送审文章的有效性、可靠性、显著性和质量作出的评审意见。

我们也需要更多精细而又稳健的方法来描述和评估单个研究人员在文章、数据、软件、研究项目、同行评审和指导学生中作出的众多不同的贡献。为了这个目的,PLoS出版商和其他的出版商正开始要求文章作者注册一个ORCID (Open Researcher and Contributor IDentifier)号码,并且正在引入CRediT分类法来识别每位作者在一篇文章中作出的贡献。在欧盟,Science Europe协会刚发布了一篇针对如何评价跨学科研究的报告,包括建议资金资助者针对一系列研究成果而不是依据文章发表记录来评估研究资金申请者。

这些措施都值得欢迎,但是最终,仅当负责监督研究人员评估的管理机构和组成评审小组的那些人采取积极的步骤改变他们评估科学家的方式时,科研文化才会发生改变。

与此同时,来自提供文章引用分布的期刊编辑和期刊出版商的信息也应是明确的:我们选择和发表具有各种不同引用次数的文章,而且没有一篇文章仅通过它发表的期刊的影响因子而能够得到充分地评估。

作者简介:这篇特殊的博客帖子是由PLoS期刊执行主编Véronique Kiermer、加拿大蒙特利尔大学信息科学副教授Vincent Larivière和PLoS期刊宣传主任Catriona MacCallum共同撰写的。

补记:美国微生物学会(ASM)官网最新消息:2016年7月11日,ASM期刊总编和ASM领导层决定,以后将不在ASM期刊网站上公布影响因子(IFs)。影响因子评价系统过分强调高影响因子,这一决定正是为了避免为这一扭曲的系统“推波助澜”。高影响因子期刊限制刊发论文数量,创造出一种排他性的印象。而且,有些研究人员因为在高影响因子期刊上发表论文而获得了不恰当的奖励。这样的扭曲评价系统损害了科学本身,阻碍了科研工作的交流。

ASM期刊总编和ASM领导层希望,通过从ASM期刊网站上撤除影响因子,远离这一系统,远离其对期刊影响因子的过度关注。同时也希望其他期刊能够追随ASM的做法。

发表评论
评论列表(0条)