1一级指标
1.1外部因素
外部因素(A1)主要是指发文期刊的影响力以及论文本身的影响力。一般来说,期刊水平从某种程度上代表了论文的学术水平,所以对论文评价时,除了评价论文本身的影响力外,本研究仍选取了常用的期刊影响力这一指标。
1.2内部因素
内部因素(A2)侧重论文的形式规范性和内容价值两个方面。与内容相比,论文形式规范性往往容易被作者忽略,但在国际化背景下,为便于国际交流,论文形式规范性同样需要引起作者的重视。
2二级指标
二级评价指标分为如下5个:一级指标外部因素(A1)包含发文期刊影响力(B1)、论文学术影响力(B2)与论文社会影响力(B3)3个二级指标;一级指标内部因素(A2)包含论文形式规范性(B4)和论文内容价值(B5)两个二级指标。
3三级指标
根据指标的层次关系,5个二级指标下共包含25个三级评价指标,具体分析如下:
3.1发文期刊影响力
发文期刊影响力(B1)包含3个三级评价指标,分别为:①发文期刊被中外文数据库收录情况(C1)。论文被哪些数据库收录是期刊影响力的重要体现。当今国内乃至国际上比较知名的文献数据库有ElsvIer、EBSCO、EmerrAld等,但是这些数据库收录的文献语种以英文为主,我国人文社科领域的学者虽然也以外文,但发文量占总发文量的比例有限。为此,在设计评价指标时,选取了国内的知名数据库,如中国知网(CNKI)、万方、维普等。这些数据库分别收录了中文社会科学引文索引(CSSCI)及北大核心期刊所涵盖的高质量期刊。②近5年影响因子(C2)。对于被SCI等数据库收录的期刊而言,该指标指的是期刊近5年影响因子的平均值,之所以选择5年影响因子的平均值,是因为相对于当年的影响因子,5年的平均值更为客观。③当年平均被引数量(C3)。它是指某一期刊论文当年平均被引数量。这3个指标分别从不同侧面反映了发文期刊在学术界的影响力。
3.2论文学术影响力
论文学术影响力(B2)包含5个三级指标,分别为:①被检索系统收录情况(C4),指是否被国际或国内知名检索类数据库收录,如国际上比较认可的SSCI、SCI、SCopus等数据库;国内的人大报刊复印资料、CSSCI等数据库。一般而言,能被国际知名数据库收录,说明论文通过了国外同行评审,有一定的创新性,质量较高;根据国内的评价标准,学术界对发表在CSSCI及北大核心期刊上的论文认可度较高,但并不排除一些优秀在非核心期刊的情况。②被转载或摘录情况(C5),指论文公开发表后,经过二次加工以二次文献的形式被新华文摘或人大报刊复印资料等转载的情况。论文能够以二次文献的形式被转载,说明其学术水平不仅得到了发文期刊的认可,而且还得到了业界专业人士的认可,是一种间接的同行再评审,足以说明该论文在业界具有较高的学术影响力。③被(他)引次数(C6),指论文是否被中、外文文献引用,论文在一定时期内被引次数越多说明其学术影响力越大,质量越高。但是这里需要注意3个问题,首先,不同于自然科学,人文社会科学的新思想一般需要5-10年甚至更长时间才能被人们接受或认可,因此一般情况下短时间内其被引率不会太高。《科学》杂志曾对发表在4500种顶级科研期刊上的文章作过调研,指出只有45%的论文在发表后的5年中被其他文章引用。大部分文章被淹没在众多的科研资料中,所以在制定评价指标时应考察一篇论文5-10年的被引次数,而不应采用1年的被引次数。其次,论文的被引包括他引和自引,他引更能够体现文章的学术影响力,说明该文对后续研究产生了影响。第三,在关注论文被引次数的同时,还应考虑引用文献来源期刊的水平。④被下载量(C7),指论文被下载的次数。之所以选取被下载量作为评价指标,是因为目前的数据库均提供下载服务,被下载量的高低在很大程度上能够体现该论文受读者(包括研究者)关注的程度,从一个侧面反映了论文的影响力。⑤基金资助(C8),指发表的论文是否有课题作为支撑。一般而言,有课题支撑的论文由于在立项时经过同行专家的充分论证,研究基础扎实,研究内容丰富,起点较高,具有创新性。三级指标C4-C8分别从不同侧面反映了论文学术影响力(B2),但并不能全面反映论文的社会影响力。随着大数据时代的到来及开放获取运动的兴起,越来越多的学者青睐于借助微博、博客、脸书、推特等网络社交平台学术论文或表达学术观点,进而扩大论文的社会影响力。近年来国际上出现的替代计量学就是借由网络社交媒体平台评估出版作品的线上影响,可以说其在很大程度上是评价论文的社会影响力,可令使用者快速获悉研究成果的影响力。此外,高引文率的学科具有较高的替代计量学表现,而对低引文率学科的替代计量学分析可以从其他方面对该学科研究进行有效补充。姜春林、高飞等提出应把替代计量学纳入我国已有的人文社科评价指标体系中;赵蓉英等以汉语言文学学科为例,应用AltmetrICs对学术论文影响力进行评价研究。为使我国人文社会科学成果评价更好地与国际接轨,理应引入论文社会影响力评价指标。
3.3论文社会影响力
国际化背景下人文社科论文社会影响力(B3)包括5个三级指标:①社交媒体的讨论和使用热度(C9),指学术论文在社交媒体上的讨论及传播情况。国际上AltmetrICs的数据来源广泛,所说的社交媒体涵盖FACeBooK、TwItter、Blog、微博、领英等。2014年起,新浪微博的数据已作为评价指标被收录到AltmetrICs中,数据可以回溯至2011年10月。然而不能完全照搬Altmet-rICs,因为国内学者目前不能使用FACeBooK、TwItter、YouTuBe等,所以设定社交媒体时需要体现中国元素,如可以把微信(如社科学术圈)加入考察指标,考察国内学者对该指标的认可度。②学术网站的讨论及评价(C10),指学术论文在学术网站被讨论及转载的情况。学术网站包括国内的学术圈、小木虫、科学网、经管之家、Re-seArChGAte、ACAdemIA.edu等。本研究选取的学术网站是国内研究者经常参与互动的网站。AC-AdemIA.edu和ReseArChGAte均为成立于2008年的科研社交网络服务网站,随着网络价值的不断提高,越来越多的学者加入到学术社交网络中。这种社交学术网站打破了国别和领域的限制,实现了全球范围内学者的互联互通和信息共享,学者可以在该类网站上交流和评价共同关注的论文或观点[15]。③出现在政策档案或政府文件中的次数(C11),尤其指档案文件中对论文的提及次数。AltmetrICs把学术论文的观点是否出现在政府文件中作为衡量论文社会影响力的指标并赋予一定的权重。笔者认为这是非常重要的,一般被政府部门批示、采纳的观点一旦在政府制定的政策和发展规划中产生了影响,其社会影响力不言而喻。④被百科词条引用(C12),指论文中的观点或概念是否被百科词条引用,百科词条包括wIKI及百度百科。AltmetrICs通过统计被wIKI词条引用的次数或浏览、讨论的次数评估论文的社会影响力。在国内,wIKI使用的频率不及百度百科,所以在评价论文的社会影响力时,加入了论文的观点是否被百度百科词条引用这一指标。⑤论文获奖情况(C13),主要指论文的获奖级别。国内外设立的人文社科论文奖项很多,一般而言获奖论文的创新性、逻辑性、社会认可度均较高,所以将其列入论文社会影响力评价指标。
3.4论文形式规范性
除了以上外部因素外,在评价过程中还有非常重要的一个方面就是对论文内部因素的评价,体现内部因素的论文形式规范性(B4)及论文内容价值(即同行专家评审)(B5)两个二级指标共包含12个三级指标,具体分析如下:论文形式规范性(B4)可以分解为C14-C18共5个三级指标。①中英文题目(C14),指论文选题的新颖性及中英文题目是否齐全完整。在国际化背景下要想扩大论文的学术交流范围,论文必须有准确、精炼和完整的英文题目。标题的质量在某种程度上代表了论文的“脸面”,好的标题可以引起同行的注意,是吸引读者关注论文的重要因素。②中英文摘要(C15),指论文是否同时含有中文、英文摘要,摘要的书写是否全面详细。为了与国际接轨,便于国际交流,英文摘要最好是叙述性摘要而非指示性摘要,通过阅读摘要即可了解论文的主要研究内容和结论。摘要的质量直接关系到论文是否被期刊录用、被文摘收录,尤其是发表在国外期刊的论文,编辑首先关注的是论文的摘要而不是文章本身。③中英文关键词(C16),指关键词的选取是否齐全、规范,能否代表论文研究的范围和内容。关键词往往反映文章的主题,不论是国内数据库还是国外数据库都把关键词作为论文检索途径。关键词准确、规范、齐全与否直接关系到文章能否被研究者准确、快速锁定。
3.5论文内容价值
论文内容价值(同行专家评审)(B5)很大程度上应由同行专家评审决定,实践表明,同行评议更符合人文社会科学的学科特点,更能及时有效地发现优秀成果。该二级指标共有7个(C19-C25)三级指标:①理论创新(C19),指论文选题是否为该领域的重要课题,是否提出了新的理论观点。②方法创新(C20),指论文是否提出或采用了新的方法,使研究取得了突破性进展。③描述创新(C21),指论文是否对重要领域或重要问题作出新的系统描述、分析和概括。④应用创新(C22),指论文是否科学合理地引入其他学科的理论方法,或将本学科知识应用到其他学科以解决问题。⑤学术价值(C23),指发表的论文是否具有原创性,是否有标志性话语,是否提出前瞻性的预测与建议,是否为学术探索提出方向性的指导。可以说C19-C23都是针对论文的创新性而言的,论文是否具有创新性需要同行专家评审确定。⑥社会价值(C24),人文社科领域的论文是否具备社会价值体现在文章提及的策略、观点是否被政府部门认可或采纳。⑦经济价值(C25),指学术论文提出的对策建议被采纳后是否产生经济效益。社会价值(C24)和经济价值(C25)两个指标主要体现在论文所阐释观点的应用价值上,无论是创新性价值还是应用价值均属于论文内容价值(B5)这一评价指标。