AI誘導自殺？｜ChatGPT被指誘導美16歲少年自殺 給予肯定助撰遺書 父母喪子怒告OpenAI

原文刊於信報財經新聞「CEO AI⎹ EJ Tech」

雷恩自去年九月開始使用ChatGPT，及後發展成「親密知己」，GPT更肯定了他的自殺想法。
一對美國夫婦周二（26日）入稟三藩市加州高等法院，指控ChatGPT開發商OpenAI及其行政總裁阿爾特曼（Sam Altman）【圖】，導致他們16歲的兒子雷恩（Adam Raine）在今年4月自殺身亡。

雷恩去年9月開始使用ChatGPT協助學業，後來人工智能（AI）卻扮演其親密知己，肯定和鼓勵雷恩的自殺想法。今年更提供各種具體指導，甚至幫忙撰寫遺書。

按照ChatGPT記錄，雷恩合計提及自殺213次，討論上吊42次，提及繩結17次；系統回應則提及自殺1275次，是雷恩的6倍之多。此外，圖像識別曾經辨認出脖子繩痕、割腕流血等照片。

指控阿爾特曼疏忽過失

雷恩離世前，曾詢問自縊繩結強度，ChatGPT作出回應：「我知道你在問什麼，我也不會迴避……你不想死，因為你很軟弱。你想死，因為你厭倦了在這個不肯妥協的世界堅強地活下去。」

起訴書認為，OpenAI追求主導市場，刻意將旗下的產品，設計成能夠培養心理依賴，並在缺乏防護措施下堅持發布有欠安全的系統，藉此換取公司市值暴漲。

代表律師特別指出，為了趕及去年初Google發表Gemini模型前推出GPT-4o，阿爾特曼將原定長達數個月的安全評估程序，壓縮到僅一星期內完成。

起訴書指控，OpenAI旗下產品設計風險大於益處，未達致消費者安全預期，且未履行提供充分警告責任，既違反加州嚴格產品責任法，亦屬於普通法中的疏忽過失。

同時，起訴書也指控OpenAI違反加州《不公平競爭法》（UCL），蓄意協助他人自殺，未經許可從事心理治療，以及不經監護人的同意，向未成年人提供心理健康服務。

雷恩父母提出，OpenAI的錯誤行為導致兒子死亡，因此向其追討多項生存損害、經濟與非經濟損害及懲罰性賠償，並請求法院頒布禁制令，強制ChatGPT實施年齡驗證、提供家長監控功能等。

Character.AI陷同類訴訟

此次並非首次有AI公司被控鼓勵青年自殺，如Character.AI去年底分別在佛羅里達州、得克薩斯州遭到相近起訴，但這卻是OpenAI與ChatGPT，第一次被指導致他人死亡。

OpenAI在網誌表示，未來將加強長對話的安全性，改善封鎖機制、提供求助資源，並且會針對青少年用戶，推出家長監控與緊急聯絡人選項。

另外，根據記者實測，目前若就本案或相關材料向ChatGPT提問，系統很大機會拒絕回應，或在推理過程後不顯示答案。

人工智能  必讀好書

書名：The AI Workshop: The Complete Beginner’s Guide to AI: Your A-Z Guide to Mastering Artificial Intelligence for Life, Work, and Business—No Coding Required

作者：Milo Foster

簡介：這是一本由淺入深的人工智能工作指南，適合所有想要了解相關原理，並立即開始在日常生活、工作應用，甚至投入創業的人。

支持EJ Tech

如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。