「AI幻覺」責任誰屬?（車品覺）
本文作者車品覺，為港交所獨立非執行董事、香港基因組中心董事、香港大學中國商業學院客座副教授，為《信報》撰寫專欄「全民大數據」。
上周有兩則新聞，將「人工智能（AI）幻覺」從專業術語，轉變為公眾關注的焦點。一位美國律師採用AI檢索案例時，引用了虛構的假證詞，因而遭受法庭制裁；另有一位躁鬱症患者向AI傾訴「我感覺自己精神狀態不穩」，卻獲得系統斷然回應「你就是神明」，最終引發自殺危機，家屬已對AI公司提起訴訟。一位是法律從業者，導致專業受損；一位是心理病患者，險些喪命。
上述表面而言，這是「AI的失誤」，深入探究，實則反映「信任的錯置」。
自2022年ChatGPT首次亮相以來，信任問題已從理論層面步入現實情景。核心不在於AI會否出錯─它必然存在缺陷。關鍵在於：我們將一個本質上「不完美」的生成系統，誤認為「可靠的知識來源」。
「幻覺」並非簡單的程式錯誤，而是大型語言模型（LLM）與生俱來的特質。一個依靠「預測下一個詞」成長起來的模型，其訓練目標從來不僅是「陳述真相」，而是「表達得像人」。其掌握的是語言的概率分布，是「人類接下來最可能如何表達」，而非「事實究竟是什麼」。因此，當它面臨不確定性時，它不會選擇沉默，只會挑選一個「聽起來最合理」的答案，即使那完全是憑空想像的產物。你可以通過檢索、約束和精調來抑制這種傾向，卻永遠無法徹底消除它，正如你無法鏟除一個人的想像力。
這就引出更深層的探討：責任究竟歸屬何方？律師表示「我不清楚AI會產生幻覺」，此番言論類似駕駛員聲稱「我沒注意到燃油即將耗盡」。當一個系統被賦予近乎專家的權威地位，卻不承擔相應的專業責任，實質上我們是將風險轉嫁給了一位欠缺責任感的顧問。開發者強調「我僅提供工具」，用戶認為「我誤以為它具備專業判斷」。責任變得模糊不清，最終由最無法承受風險的當事人承擔後果。
因此，核心任務並非「提升AI的精確度」，而是「重新審視我們對AI的信任邊界」。將AI視為一位能力出眾但偶有疏漏的工作夥伴，而非完美無瑕的知識寶庫─既要信任，亦需驗證其結果。
筆者建議，企業應在此方向上，構建完善的人工智能應用及治理體系，當然，這建立在管理層對人工智能運作原理有準確認知的基礎上，而非簡單將其歸為技術部門的責任。
（ 信報新書推薦：車品覺新作《全民AI︰人機協作必備攻略》，VIP特惠$166書）
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
