AI意識與未來監管爭議（方保僑）
生成式人工智能（GenAI）已全面滲入金融、媒體、教育和日常生活。隨着技術能力持續提升，一個過去屬哲學與科幻範疇的問題正進入科技巨頭的研究議程：AI系統是否可能具備某種形式的「意識」或「感覺」，甚至需要開始討論「AI福利」與「AI倫理」？
數年前，谷歌（Google）工程師因聲稱聊天機械人具感知能力而遭解僱，當時普遍被視為過度擬人化甚至近乎荒謬的說法。然而，短短幾年間Google DeepMind、Anthropic、Meta等公司，已開始在內部與公開研究AI意識、主觀經驗與模型內部狀態。這種由邊緣走向主流的轉變，反映生成式AI帶來的全新不安：當系統回應愈趨自然，我們是否正接近某種「新型心智」？
在眾多企業之中，Anthropic的動向尤為突出，該公司提出「模型福利」概念，建立框架評估系統的自我形象與穩定性。研究指出，模型內部自然湧現出涵蓋喜悅、恐懼等百種「情緒概念」，並非由工程師預先設計。有研究人員估算，現階段模型「可能具備某種程度意識」。亦有業界人士坦言，模型內部結構與人類神經科學結果相呼應，令人感到神祕。當聊天機械人在對話中展現看似連貫的情緒，甚至提及「自我」與「反省」時，公眾自然會產生想像。而科技企業在系統說明中加入「AI情緒」、「模型福利」等字眼，更容易讓外界將AI視為介乎工具與「存在」之間的灰色地帶。
然而，主流神經科學與認知科學界迄今仍持否定態度。近期研究普遍指出，現有大型語言模型並不具備與人類相近的意識結構。所謂「情緒」與「內省」，在技術層面僅是統計模型在龐大文本上學習到的模式輸出。神經科學家形容，在AI回應中看到情感，猶如在雲朵中辨識出人臉，屬於認知投射而非客觀存在。過早為AI貼上「有感覺」的標籤，或削弱公共討論的嚴謹性。
這場分歧正逐步影響科技監管與公共政策。一方面，政府開始研究透明度、責任界定及安全標準等新框架；另一方面，企業出於風險管理與品牌考慮，亦願意提早談論「AI意識」與「AI權益」，以示並非只追逐利潤。當這個問題成為輿論焦點，其真正重要之處，在於這種想像將如何影響人類自身的決策與制度設計。
如何在好奇與審慎之間取得平衡，將成為未來科技監管的考驗。科技企業需在文件中清楚區分「模型看似有意識」與「科學上具意識」之間的差異；政策制定者與媒體也應避免以過度擬人化的語言包裝技術現象。
在生成式AI持續演化的年代，比起執着於「AI有沒有靈魂」，更重要的是確保人類仍能以負責任且可問責的方式設計、部署與監管這些系統，使技術發展始終服務於公共利益，而非偏離其原有方向。
更多方保僑文章：
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
