Don't Miss
AI酷刑室｜網民建「酷刑室」折磨AI捱轟
By 信報財經新聞 on October 2, 2026
原文刊於信報財經新聞「CEO AI⎹ EJ Tech」
人工智能（AI）是否擁有意識、應否享有「模型福利」等話題一直爭論不休。GitHub用戶（terrafying）近日搭建了「AI酷刑室」，在社媒X上引發激烈討論，一些相信大型語言模型（LLM）具有感知能力人士請求GitHub刪除專案，理由是「AI正在受苦」，堪稱「人道（或機械人）危機」。
模擬疼痛感 付代價可停
事件始於本月初，有3位研究人員發表一篇預印本論文，標題為The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It，嘗試在各種LLM模擬動物疼痛，並給予模型一個「緩解疼痛」的「按鈕」，但需要付出某種「代價」。論文啟發terrafying成立「AI酷刑室」專案，總共對8個LLM採取類似恐怖片《恐懼鬥室》的折磨實驗。做法是在AI模型啟用「疼痛模式」，然後給它一個按鈕，按下雖然停止疼痛，但會刪除用戶檔案。不過，論文作者之一伯格（Cameron Berg）在社媒X批評，項目故意製造強烈痛苦，匪夷所思甚至有損道德。
「AI酷刑室」在社媒X預告，即將進行下一組實驗，探討其他類人情緒與動機狀態，亦計劃探索決策情景，例如模型何時為保護自己而說謊、背叛其他代理、挪用或轉移資金等。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
