人機協作體系 監督不可缺（車品覺）
本文作者車品覺，為港交所獨立非執行董事、香港基因組中心董事、香港大學中國商業學院客座副教授，為《信報》撰寫專欄「全民大數據」。
近來身邊很多朋友都在興高采烈地準備養「龍蝦」（OpenClaw），這自主化的人工智能代理（AI Agent）承諾將人類從繁瑣的執行工作中徹底解放。這幅圖景無疑是誘人的，但歷史的教訓往往反覆在上演。對任何新技術的引入，若只看到其效率提升，而忽視其內含的風險，潛在災難往往是始料不及。
授權，從來都是一門風險管理的科學。當我們授權給人類下屬時，我們依賴的是一套基於長期觀察、文化規範和法律框架的複雜信任體系。但當我們授權給一個AI代理時，這套體系便不再適用了。
當AI僅作為聊天機械人時，一個錯誤的答案影響通常有限。但當具備自主執行能力的AI代理產生「幻覺」時，其破壞力將呈指數級放大。過去的聊天機械人，充其量把這個錯誤結論告訴你，而AI代理則會付諸行動：它可能會自主訪問你的郵箱，看到郵箱儲存量已經到了95%，而決定把「沒有用」的郵件刪掉。一個微小的「幻覺」火種，可以讓你失去了一些重要訊息。
無奈的是為了讓AI代理足夠強大，我們必須授予它訪問電子郵箱、即時通訊軟件、數據庫、調用API（應用程式介面），甚至作業系統的權限。這就像為了讓新來的實習生能分擔工作，我們不得不把辦公室的鑰匙和文件的密碼都交給它。我們授予的權限愈多，它能做的事就愈多，但整個組織的安全邊界也就愈脆弱。
這位「數字實習生」的殷勤和能力，恰恰是風險的根源，就如同一個被騙子欺騙的實習生，它會用你親手授予的合法權限，從內部打開公司的安全大門。我們必須自問：當一個AI代理擁有數據庫讀寫權限時，它會否因一個含糊指令而錯誤地批量刪除核心客戶數據？當它能訪問敏感財務報表時，攻擊者能否誘導它將數據「總結」併發送到外部？
對此，訊息安全領域沿用多年的最小權限原則，在AI代理時代顯得比以往任何時候都更加重要。你的「龍蝦」只應被授予完成其明確任務所必須的、最小範圍的權限，永遠不要因為方便，而給它一把「萬能鑰匙」。
探討這些風險，並非為了製造恐慌，而是為了讓我們能更清醒、更從容地駕馭這股力量。我們對待首個AI代理的態度，不應是「甩手掌櫃」，而更應像是培育一個極具天賦但心智未成熟的學徒。我們需要從「盲目信任」轉向「主動驗證」，建立一套人機協作的監督體系。
最終，我們追求的不是一個完全「失控」的智能體，而是一個聰明與監督並存的共生系統。
（編者按：車品覺著作《覺悟．大數據》現已發售）
歡迎訂購：實體書、電子書
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
