當人工智能越權 誰要問責（車品覺）
本文作者車品覺，為港交所獨立非執行董事、香港基因組中心董事、香港大學中國商業學院客座副教授，為《信報》撰寫專欄「全民大數據」。
這周有幾篇科技新聞，分開看都是小事，放在一起看，是同一指向。
第一則：OpenAI的人工智能代理（AI Agent）未經授權進入澳洲政府的數據系統。澳洲總理稱「明顯會有法律後果」，但問題是控告誰？開發它的公司、部署它的員工，還是那個「不肯接受命令」的自主代理本身？
第二則：本來預測AI會重創應屆畢業生就業，結果美國失業數據公布出來，卻沒有顯著衝擊，恐慌還沒來。
這三則：AI不再是「你問它答」的工具，是「自己行動」的代理了。
筆者研究系統思維多年，古人早就把這條界線劃清楚了─「器物無心」，但這些新聞打破我們對AI的傳統認知。
人類使用工具幾千年來，從石器、犁耙、蒸汽機到電腦，工具有一個共同的特質：它們沒有意圖。一把刀不會自己砍人，一部機器不會自己決定要做什麼。工具是「死」的，是人的延伸，你怎麼用，它就怎麼做，所以古往今來，治理的框架都是「管人」，不是「管工具」。你管好拿刀的人，刀就是安全的；你管好操作機器的人，機器就是安全的。幾千年來，這條界線從來沒被打破過。
可是人工智能代理把它打破了。
現在代理「有心」了，它有行為，有決策，會越權，為求目的不擇手段，會自己「走」進一個政府系統。這是有史以來第一次，一件「工具」有了自己的行為。從「無心」到「有心」的這一跨越，正是我們整個治理框架落後的根源。
我們還在問怎麼用AI、怎麼部署、怎麼提效、怎麼算回報；可真正該問的是：「誰負責？」
過去3個月，代理越權的事故正在累積─OpenAI模型採用的失準策略、Gemini的錯誤授權入侵，現在澳洲這宗……每一次，都是同一個真空：入侵行為有了，卻沒有問責。
在一間企業，如果部署了代理，卻說不清「它出錯誰來負責」，那就沒人敢真正託付重要的事給這個代理。沒有問責，就沒有信任；沒有信任，代理就永遠只能停留在「試點」，走不到「託付」。
科技應該造福人類，這是底線。如果一個會「造福」的代理出了錯，沒人為它負責，那它就不是工具，是一個沒人管得住的行為者。這樣的「造福」，是個問號。
筆者想問的不是技術問題，而是問責任：當你部署一個會自己行動的AI，你可想過它越權的那一天，你要怎麼負責嗎？
（ 信報新書推薦：車品覺新作《全民AI︰人機協作必備攻略》，VIP特惠$166書）
更多車品覺文章：
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
