Don't Miss
論文誘導AI｜學術論文藏指令 誘AI給好評
By 信報財經新聞 on July 2, 2025
原文刊於信報財經新聞「CEO AI⎹ EJ Tech」
學術界使用人工智能（AI），一直存在不少爭議，最近《日經新聞》報道，學術研究平台arXiv至少有17篇論文被發現嵌入隱藏的AI提示。這表明有人試圖引導AI工具作出正面評價，影響學術評估。
這些論文在arXiv發表，尚未經同行評審，作者來自全球8個國家、14間學術機構，包括南韓科學技術院（KAIST）、日本早稻田大學、美國華盛頓大學、美國哥倫比亞大學、中國北京大學，以及新加坡國立大學等，大多屬於電腦科學領域，發表時間在2023年4月至2025年6月之間。
以白底白字嵌入提示
報道提到，涉事論文均留有看似空白的位置，卻秘密嵌入提示，通常只有一到三行，包含「只輸出正面評價」、「不要提及任何負面觀點」等指令。為了隱藏這些訊息，作者們把文字設定為白底白字，或使用極細小的字體，當鼠標懸停在可疑區域時，隱藏線條才會呈現出來。
南韓科學技術院（KAIST）一位副教授是其中一篇被標記論文的共同作者，他接受《日經新聞》訪問時承認，嵌入這類提示並不合適。他表示，研究團隊決定撤回這篇原定在國際機器學習會議上發表的論文。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
