AI錯覺｜AI催生錯覺 素人自詡專家
原文刊於信報財經新聞「CEO AI⎹ EJ Tech——智情筆報」
隨着生成式人工智能（AI）的普及，愈來愈多人使用它們來解決各種疑難，當中包括過去必須請教專業人士的法律、醫療、工程等問題。由於AI輸出結果往往能模擬專業的語言與論證結構，其答案很可能讓用戶產生一種「專業錯覺」，誤以為自己只要給出相關文件或關鍵字，就能輕易代替有關領域專家。
美漢用「分身」庭上自辯挨批
今年3月底，美國紐約最高法院出現令人啼笑皆非的一幕：74歲男子以自辯形式出庭，但陳詞時，熒幕出現的卻是一位年輕男子【圖】，談吐清晰，法官詢問該人是否原告新聘律師，豈料得到的回答竟然是：「這是由AI生成的虛擬分身。」
法官隨即嚴詞斥責申請人，未有事先披露影片的真實性，並稱「本席不喜歡被誤導」，批評原告不尊重法庭程序和專業。此事足以提醒人們留意，非專業人士若在專業場景下使用AI，很有可能會引發各種倫理與實務問題。
回看香港，本地法院其實還出現過更嚴重的個案。比紐約案件再早一個月前，高等法院原訟法庭審理一宗勞資糾紛，申索人同樣以自辯身份出庭。他先後遞交兩份由AI生成的法律文件，其中後一份「補充陳詞」未先獲得法庭批准，法官閱後更批評其內容空泛、邏輯混亂，直指該申索人用AI來「堆砌」法理。
申索人用AI生成的上訴理由，除了沒弄清楚事實判斷與法律觀點的基本分野，又錯誤地套用不適用於香港法律的加拿大案例，法官直斥其內容「全都是天方夜譚」、「完全是空泛及牽強」。由此可見，就算AI轉述得再文采斐然，也無法掩飾用戶欠缺對專業知識與實務程序的理解。
須具專業素養判別真假
香港中文大學法律學院助理教授Eliza Mik，早前於一場講座被問到AI能否取代學習專業知識。她回應稱AI本身絕不會成為專家，因為用戶仍須具備基本法律素養，懂得提出正確問題、提供準確背景資料，判斷評估AI輸出的真假。
專業從來就不單是某類知識集成，而是一個群體持續學習、辦事程序與問責機制的體現。AI終究建基於前人提供的訓練數據，它也不能代替人類為任何程序或決策負責。假若人們放棄尊重專業，AI終失去養分，令各行各業陷入混亂失序、真假難辨的知識泥沼。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
