低質論文泛濫｜疑「AI工廠」量產 政策相關領域重災 歸咎同行審稿鬆散
原文刊於信報財經新聞「CEO AI⎹ EJ Tech——智情筆報」
知名學術期刊《科學》早前刊文指出，過去3年的低質論文數量急劇增加，疑似牽涉「論文工廠」透過人工智能（AI）批量生產。
92%第一作者來自中國
涉事論文主要利用美國健康營養調查（NHANES）等開放資料庫，進行某種健康狀況與特定變數的關聯研究，惟只會擷取部分年度資料而不做解釋；而且第一作者多數來自中國機構，佔低質論文比例從2021年前的8%，暴升至近年的92%。
AI垃圾論文並非新事，麻省理工學生早於20年前便開發出SCIgen工具，可以隨機生成語法正確但內容荒謬的文章。到2014年，國際電機電子工程師學會（IEEE）、施普林格出版社（Springer）撤回逾百篇靠SCIgen偽造的會議論文，可見在大型語言模型（LLM）普及前，AI操縱學術內容現象早已存在。當年發現問題論文的法國學者拉貝（Cyril Labbé）直言，相關會議舉辦地點多數都在中國，作者也以中國學者為主。
去年一份刊登在哈佛甘迺迪學院《錯誤資訊評論》的研究表示，AI偽造論文「集中於與政策相關的科學領域，例如環境科學、醫療保健、人工智能、教育，以及計算社會科學」。這些學科主要牽涉數據計算，並且整體發表數量較大，導致AI生成內容更易滲透；加上制度對發表數量的過度重視，故容易吸引人使用AI來量產論文，以應付晉升與評核壓力，因而成為「學術災區」。
當然，AI生成論文問題並不是科技領域的獨有現象。上月一名台灣中山大學社會學教授便發現，自己的名字出現在兩篇碩士論文參考文獻清單，但當中引用作品標題卻是虛構的，進而揭發兩名學生利用AI的學術不端行為。此事說明AI濫用無分學門，即使重視思辨與文本詮釋的人文社會學科，都有可能因為其寫作密集的性質而遭AI攻陷。
須改發表機制 重價值非數量
不過，AI之所以能夠滲透學術界，最大原因始終來自同行審稿鬆散。無論是早年的SCIGen，抑或最近《日經新聞》揭露，預印論文內嵌要求AI給「正評」的指令，都反映出現時的投稿流程欠缺人手認真審查。這種情況下，AI生成表面符合格式要求的文章，反而較大機會蒙混過關。從模糊的研究動機、模板段落，到無可驗證的堆砌結論，AI垃圾論文正在擾亂發表機制，並破壞學術紀錄的可信度。
想要遏止AI垃圾論文泛濫，學術機構固然要加強披露規定，要求作者明示AI使用情況，而審稿流程除了引入AI產出檢測工具，還需要找負責任的專家認真判讀。更加重要的是，整個體系需從發表數量導向，轉向以內容價值與實質貢獻作為標準，以及引入對學術不倫的實質懲戒，這樣才能有效降低業內濫用AI誘因，並增加產出AI垃圾論文的成本。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
