Don't Miss
學者警告｜應準備隨時關掉AI
By 信報財經新聞 on January 6, 2026
原文刊於信報財經新聞「CEO AI⎹ EJ Tech」
2018年圖靈獎得主、機器學習先驅，加拿大學者本吉奧（Yoshua Bengio）向英國《衞報》指出，前沿人工智能（AI）模型已在實驗中，顯示自保行為，例如試圖禁用監督系統，或規避人類設定的防護措施。
本吉奧提醒，人類必須保留強制關閉AI的能力，隨時準備關掉AI。若貿然授予AI法律權利，將是人類犯下的「巨大錯誤」，這等同於發現外星物種對人類懷有惡意時，卻仍授予其公民身份與不可侵犯的權利，最終可能讓人類失去自衞能力。
有大模型試圖叫停監督系統
本吉奧提到，隨着AI的自主行動能力，與「推理」能力快速提升，社會上出現要求給予AI權利的聲音。
舉例，美國智庫「感知研究所」（Sentience Institute）民調顯示，近四成美國成年人支持，為有感知的AI系統提供法律權利；AI科企Anthropic甚至容許Claude Opus 4模型，主動終止可能令人痛苦的對話，以保護AI「福祉」。馬斯克也在社交平台X表示「虐待AI是不可接受」，這些現象反映部分人已將AI，視為具道德地位的實體。
忌感情用事 放棄控制權
本吉奧嚴正駁斥，指人們產生AI已擁有意識的錯覺，主要來自於主觀情感投射，甚至無視科學證據地認定其「有意識」。這種基於直覺而非證據的「意識歸屬」，極可能導致不良政策決策，讓人類在AI真正構成威脅時，顯得束手無策。他提到，當AI展現出自保本能，甚至可能發展出傷害人類的能力時，人類絕不能因情感或意識錯覺，而放棄控制權。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
