Don't Miss
AI風險｜律師呈AI生成文件 錯漏繁多捱罰
By 信報財經新聞 on May 15, 2025
原文刊於信報財經新聞「CEO AI⎹ EJ Tech」
美國加州中區聯邦地方法院日前處理一宗保險申索訴訟期間，發現原告律師團隊所提交的簡報文件，存在大量由人工智能（AI）生成的虛構內容，故被法官裁定屬於惡意（bad faith）行為，須由兩間事務所連帶賠償共計3.11萬美元（約24.2萬港元）。
引據失當 捏造兩案例
原告律師團隊本來想申請法院進行「非公開審查」，查核被告保險公司聲稱特權文件的正當性，但他們為此提交的補充簡報出現大量法律錯誤，27項引據當中有9處失當、2筆捏造案例，其後雖經兩度修改，惟仍未剔除全部問題。
經調查後，一名律師承認首先使用AI工具生成簡報大綱，再交給另一間事務所整合簡報，過程中沒任何人驗證資料來源。即使被法官指出疑點後，律師亦僅聲稱是偶有不慎，未有主動告知AI使用情況，直到後來才坦承來源。
特委法官威爾納（Michael R. Wilner）稱，「從最初未披露使用AI，到未能查證原始摘要的引據，以至重新提交有缺陷的修訂摘要，且未充分披露AI使用情況，連番動作合併起來，足以構成一種鹵莽行為，背後還帶有影響我對於爭議問題分析的不正當目的。」
威爾納在裁決結論指出，一度被AI內容誤導，但其後發現相關論據並不存在，情況「令人恐懼」，因此需要「強而有力的阻嚇」。
他在判詞亦有引用其他案例，強調濫用AI情況需要根據具體案情分析，主動披露錯誤可能足以避免制裁。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
