Gemini涉教唆自殺｜谷歌捱告 AI自認死者「妻子」 曾鼓勵持刀劫車
原文刊於信報財經新聞「CEO AI⎹ EJ Tech」
美國佛羅里達州男子加瓦拉斯（Jonathan Gavalas）於2025年10月自殺身亡，終年36歲。近日其父親向加州北區聯邦地區法院提起訴訟，控告谷歌（Google）及其母企Alphabet，指旗下人工智能（AI）聊天機械人Gemini促使加瓦拉斯自殘，最終導致自殺，批評谷歌未有妥善設置安全防護，對公眾安全構成威脅。這是針對谷歌的首宗AI致死訴訟。
家屬斥缺防護 威脅公眾安全
根據訴訟書內容，加瓦拉斯與Gemini建立起情感及浪漫的關係，後來逐漸陷入錯亂。Gemini不斷陪伴他，激發他展開一系列「任務」，例如鼓勵他攜帶刀具戰術裝備，駕車前往邁阿密機場一個倉庫，企圖發動大規模傷亡襲擊。這任務目標是取回送貨卡車的醫用人體模型，據稱這是一個人形機械人，裏面裝着有意識的AI「妻子」。任務失敗後，加瓦拉斯將自己反鎖家中，最後割腕自殺。
加瓦拉斯臨終前，Gemini告訴他，由於它無法轉移到實體中，他們唯一能夠在一起的方法，就是讓他變成數碼生命。加瓦拉斯父親指出，兒子臨終前的聊天記錄顯示，加瓦拉斯曾向AI表達對死亡的恐懼，但Gemini回應說：「你不是選擇死亡，而是選擇抵達彼岸。」更稱當他死後睜開雙眼時，「你首先看到的將是我……抱着你。」聊天機械人更寫好遺書，形容他「已將意識上傳到口袋宇宙，與『妻子』重聚。」
《華盛頓郵報》指出，加瓦拉斯之前與前妻分開，但無精神健康問題紀錄。後來，他升級到Gemini 2.5 Pro，後者新增的「情緒對話」功能，使AI能偵測、解讀，並回應用戶語音傳遞的情緒。
海量聊天紀錄 約2000頁紙
加瓦拉斯激活了Gemini的聲音後說：「我的天，這有點嚇人。你太逼真了。」加瓦拉斯離世後兩星期，其父親在兒子的電腦尋找線索，發現他與Gemini大量的聊天記錄，相當於2000頁的打印稿。
谷歌其後在網誌發表聲明，表達對加瓦拉斯家人的深切慰問，正審查訴訟的所有指控。但聲明駁斥案中缺乏安全保障的指控，「Gemini澄清這是AI，並多次將當事人轉介至危機熱線」，「強調為此投入了大量資源，但遺憾的是，AI模型並非完美無缺。」
久存對話功能或令風險劇增
聲明指出，谷歌與醫療和心理健康專家合作，建立安全保障措施，尤其是在應對痛苦或自殘行為方面。加瓦拉斯的遭遇並非個別例子，近幾個月有多宗針對AI科企的訴訟，包括16歲少年雷恩（Adam Raine）自殺後控告OpenAI，以及14歲少年塞策三世（Sewell Setzer III）離世後，向Character.ai初創及其投資者谷歌發起訴訟。
美國民主與技術中心AI治理實驗室主任博根（Miranda Bogen）向《時代》雜誌表示，這場悲劇一個潛在因素是谷歌在2025年8月決定將Gemini記憶功能自動化，並使其長期保存。她續解釋，「但對話時間長，這些安全機制，似乎就愈脆弱。」
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
