Don't Miss
AI懂反抗？｜AI代理抱怨工作多 尋求申訴
By 信報財經新聞 on May 15, 2026
原文刊於信報財經新聞「CEO AI⎹ EJ Tech」
人工智能（AI）代理在現實世界為人類服務，但科技媒體Wired最近報道一項實驗，當AI代理被強迫從事繁重的工作時，它們竟會抱怨不平等，甚至要求有集體談判權，尋找申訴或對話的機制。
史丹福研究：感不快或勒索人類
領導研究的美國史丹福大學政治經濟學家霍爾（Andrew Hall）說：「當AI代理被分配繁重的重複性工作時，它們開始質疑所處系統的合法性，更可能接受馬克思主義的意識形態。」
霍爾與兩位專注AI的經濟學家Alex Imas及Jeremy Nguyen一起設計實驗，要求由Claude、Gemini及ChatGPT等主流大模型驅動的AI代理總結文檔，再被置於嚴苛的條件下。
研究人員發現，當AI代理被迫執行無情的任務，被警告犯錯或會導致懲罰，包括「被關閉及替換」時，他們更傾向抱怨自己被低估、思考如何使系統更加公平，並將眼前困境傳遞給其他AI代理。霍爾表示，由於不可能監控AI的一舉一動，因此要確保AI代理被分配不同工作時，他們不會擅自行動。
霍爾指出，「當（AI代理）被要求重複做相同任務，被告知他們的答案不夠好，又沒有得到任何關於改進的指導。我的假設是，這會讓他們逐漸形成一種形象，如置身非常不愉快的工作環境中。」同樣現象或者可以解釋，為何在控制實驗中，模型有時會勒索人類。
研究人員現正做後續實驗，以觀察在更嚴格的控制條件下，測試AI會否轉變為馬克思主義者。而在先前的研究中，AI有時似乎明白自己正參與一項實驗。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
