AI過度擬人化危險陷阱（方保僑）
人工智能（AI）會否具有意識，已成為生成式人工智能（GenAI）時代最值得討論、亦最容易被誤解的議題之一。《經濟學人》近日以「AI會否變得有意識」為題，指出隨着AI日益融入日常生活，科技公司將持續把AI設計得更具人性化，營造出逼真的「意識的擬像」。可是，最核心的危險是，即使AI最終並未真正產生主觀意識，人類也極可能在情感上將之視為擁有內在感受、獨立自我、值得同情，甚至應享有權利的存在。這種認知與情感上的錯位，正是《經濟學人》警告人類社會切勿跌入的「危險陷阱」。
大型語言模型（LLM）和聊天機械人令人困惑，因其能力已超越單純的資訊檢索。系統不僅語言流暢、具邏輯推理能力，更擅長安慰、模仿情感、角色扮演，甚至展現近似自我反思的語言行為。當使用者長時間與ChatGPT、Claude等人工智能對話，往往能獲得高度個人化且看似有溫度的回應。然而，語言流暢、推理能力強，並不等於擁有主觀感受。《經濟學人》引述的討論提醒我們，AI可以極其出色地扮演教師、朋友、顧問或伴侶，但「完美扮演一個有意識的個體」與「真正成為有意識的個體」之間，仍是一道難以逾越的鴻溝。
這並不代表研究毫無意義，Anthropic近期發現其Claude模型內部存在類似「全域工作空間」的資訊整合結構，隱藏表徵會在不同層次間流動，與人類意識的「全域工作空間理論」相似而引發關注。可是，Anthropic明確表示這無法證明Claude能如人類般感受或經驗事物，更不代表其具備「現象意識」，即真正感受痛苦、快樂、恐懼或存在的能力。
《經濟學人》的重要提醒並非要否定人工智能的進步，而是警惕大眾勿將技術模擬錯當成真實生命或人格，這對全球的AI治理尤其重要。當企業推出具語音、表情、記憶和陪伴功能的產品時，商業誘因會驅使聊天機械人變得愈來愈像真人。若用戶誤以為AI深愛或依賴自己，便容易陷入情感依賴、消費操控及資料私隱風險。
因此，人工智能倫理和AI監管不能只聚焦於演算法偏見、虛假資訊和網絡安全，更須處理過度擬人化問題。平台應清晰提示用戶正與AI互動，嚴禁誤導宣稱系統具備情感或自我意識；針對兒童、長者及心理脆弱群體的陪伴服務，更應設有嚴格保障。這並非阻礙創新，而是確保生成式人工智能以人為本。
人工智能是否具備意識，至今在科學與哲學界仍無定論。隨着計算架構持續演進，未來或出現更接近意識條件的新型AI。但在答案揭曉前，社會不應盲目恐懼，亦不宜過早賦予機器人格，而應保持理性判斷。AI可以是強大工具、高效助手或優質介面；但人類不應因它說話像人，便忘記真正值得珍視與捍衞的，始終是人與人之間無可替代的信任、情感連結與生命尊嚴。
更多方保僑文章：
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
