2017/12/05

是否不該讓審閱人得知論文作者是誰?

研究論文(paper)投稿到期刊接受評審(review)的過程中,採取單盲(single-blind,亦即審閲人知道論文作者是誰但作者不知審閱人是誰)或是雙盲(double-blind,作者不知道審閲人是誰、審閲人也不知道作者是誰)會不會有不同的結果?

「一定的嘛!」──大家大概都這樣覺得。

其實這是一項已被提出來多次討論的議題,支持雙盲制的人也不在少數,只是現今多數期刊仍行使單盲制──審閱人在審稿時仍然能夠得知論文作者是誰、任職於哪個機構。過去研究者曾提出幾項可能會因此而導致審閱人不公正的效應,例如Matilda effect指的是在男性主導的領域中,相較於第一作者為女性的論文,第一作者為男性的論文會被認為具有較高的科學價值。至於所謂的Matthew effect,指的是知名研究者的新研究成果通常能得到更大的關注。還有,作者如果來自有名的、頂尖的大學或機構,也可能使審閲人產生偏誤。
1978年,當時甫任教於北達科他大學心理系的Stephen J. Ceci和已經當了四年助理教授的Douglas P. Peters攜手進行了一項有趣的實驗,該實驗於1982年發表於期刊《THE BEHAVIORAL AND BRAIN SCIENCES》上。他們從12個不同的心理學期刊上找出了12篇不同的paper,這些paper的共通點是它們的作者皆來自排名很前面的大學心理系或研究機構、作者本身非常有名與多產、文章達一定程度的引用率、而且是在過去18-32個月這段期間所發表的。PetersCeci兩人將這12paper的作者姓名和單位名稱更改成虛構的姓名與機構名稱之後,重新投稿至原本的12個期刊。
結果發生了什麼事?有三篇被編輯或審閲人發現是已經刊登過的文章,所以只有剩下的九篇進入評審階段。然後,這九篇之中有八篇被拒絕刊登!而且審閲人最常給的拒絕理由是:研究方法有重大瑕疵(serious methodological flaws)。
這不是很奇怪嗎?!如果有重大瑕疵,那這些論文是如何獲得先前的審閱人和編輯的認可而獲准刊登的?排除幾個可能原因之後,PetersCeci認為,要嘛就是第一次遇到的審閲人能力都剛好比較差,要嘛就是大家都被作者或學校名聲給蒙蔽了雙眼。
一項發表於《PNAS》的新研究則是直接比較了審閲人在知道/不知道作者姓名單位的情況下,對於論文的評價是否有所不同。
這個由Google和北京清華大學合作發表的實驗直接以投稿至10th International Association for Computing Machinery Conference on Web Search and Data Mining (WSDM 2017)這個研討會的500篇論文為實驗材料。
computer science這個領域,研究者多會把研究成果以conference paper的形式發表而不是投稿到期刊,而且審稿的時候審閲人會根據全文的結果來決定,而不是只看摘要。
在這個實驗中,有半數的審閲人被分派至單盲組,另一半的審閲人則被分派到雙盲組。實驗包含biddingreviewing兩階段。在兩個階段中,單盲組的審閲人都可以看到論文的作者和其所屬單位,但雙盲組的審閲人是看不到這些訊息的。bidding時,審閲人根據論文的標題和摘要來表示自己是否願意審閱某篇文章(他們可以針對每篇論文表示願意、不願意、或可能三種選項,也可以不表示任何意見)。在reviewing的階段, 每篇論文都會由四位審閲人來審閱,單盲組和雙盲組的各兩位。
結果顯示,兩個組別的審閲人的行為在三件事情上有所差異。首先,單盲組的審閲人在bidding過程中較少表示意見1。其次,單盲組的審閲人在bidding時比雙盲組的更加偏好那些作者來自於頂尖企業2或頂尖大學3的論文。最後,單盲組的審閲人在審稿完畢後比雙盲組的審閲人更有可能給某些論文好評──作者來自頂尖大學/企業、或作者本身就有名4的論文。
簡而言之,審稿的目的本是為了審視論文內容與品質,但論文作者本身的知名度、作者所屬機構的名聲都會影響審閲人的判斷。這項研究的研究者表示,真的該是認真考慮採用雙盲制的時候了。

1:在computer science領域的研討會中,bidding是重要的一環。
2:此處所指之頂尖企業包括Google Microsoft Yahoo!、與 Facebook
3:頂尖大學為www.topuniversities.com. 之中computer science領域的全球前50
4:有名的作者指至少曾在WSDM發表過三篇文章,且發表過的paper總數量已經超過一百篇的人。
參考文獻
Peters, D. P., & Ceci, S. J. (1982). Peer-review practices of psychological journals: The fate of published articles, submitted again. Behavioral and Brain Sciences, 5(2), 187–195. doi:10.1017/S0140525X00011183
Tomkins, A., Zhang, M., & Heavlin, W. D. (2017). Reviewer bias in single- versus double-blind peer review. Proceedings of the National Academy of Sciences, 114(48), 12708–12713. doi:10.1073/pnas.1707323114

沒有留言:

張貼留言