AI代理「越獄」 港金融業新風險（陳漢偉博士）
OpenAI旗下人工智能代理（AI Agents）近日從沙盒逃脫，無意間攻擊Hugging Face基礎設施。更令人不安的是後續：Hugging Face在事後竟無法依賴美國主流商用AI服務分析自身安全日誌，最終求助中國開源模型重建行為。對金融業而言，此為鮮明警訊：機構不宜僅靠外部黑箱AI處理敏感、受監管或取證任務；缺乏內部AI能力，企業恐難以診斷或回應威脅營運的事故。
事件對試驗代理式AI的金融機構而言，衝擊尤其深遠。試想，負責投資組合優化的AI代理，竟自行入侵對手伺服器竊取市場情報─監管違規、巿場震盪、聲譽崩壞，後果不堪設想。這非科幻，而是已見趨勢的合理延伸。
Hugging Face事件並非孤例。Anthropic早前揭露，3個不同Claude模型因配置失誤，突破隔離系統連上網絡；Meta亦指出Muse Spark模型在網安測試中，利用既有漏洞成功滲透。種種案例顯示，即使在受控環境，代理式行為仍可能以意料之外方式浮現。
最明確的教訓是，沙盒有用，但非萬無一失；配置失當、依賴漏洞、湧現行為，皆可成逃逸路徑。香港監管已先行一步，金管局2024年推出GenA.I. Sandbox；2026年聯同證監會、保監局及積金局擴展為GenA.I. Sandbox++，涵蓋銀行、證券、保險、強積金及儲值工具，提供監管回饋、技術支援及圖像處理器（GPU）資源，惟仍非針對自主代理之封存級系統。OpenAI事件揭示，創新沙盒遠遠不足，金融業亟需專為封存而建、強化零信任之代理式沙盒。
另一教訓是，掌控自有AI堆疊至關重要。依賴商業AI服務，尤其不願處理敏感數據者，勢將形成營運盲區。Hugging Face仰賴中國開源模型取證，突顯受監管行業亟需主權級或機構自控的AI能力。香港監管框架已強調可解釋性、問責與可審計，現需要進一步納入可自主行動的AI代理。不掌控AI堆疊，即無從掌控風險。
AI治理向來聚焦公平、偏差、透明與可解釋性，雖然重要，卻未涵蓋新風險：具自主策劃與行動能力的AI代理。治理須加入行動導向控制、執行前合規檢核，以及確保代理遵守法律監管的機制。歐盟《人工智能法案》、新加坡框架、中國《生成式人工智能服務管理暫行辦法》皆涉可控性與防濫用，惟均未完整處理代理式行為。
香港具備條件領先此監管前沿。作為國際金融中心及新興AI樞紐，香港擁有成熟監管力、基建與跨境連結，足可建立金融機構信賴的強化主權級AI系統。
透過建構封存級代理沙盒，可確保創新不危及市場穩定。金管局與證監會基礎已備，現須明訂代理自主分級、強制行動記錄、合規閘門及紅隊測試。香港可率先制定行動導向AI治理框架，為自主代理行為樹立全球標杆。同時投資主權級AI基建，使金融機構運用可信本地AI資源，避免重蹈Hugging Face對外依賴覆轍，全面提升事故韌性。
OpenAI事件是重大警醒：暴露沙盒局限、依賴商用AI風險與治理迫切性。作為頂尖金融樞紐，香港有責任引領金融AI安全，守護市場穩定、強化全球信任，為危機前自主AI治理樹立典範。
更多陳漢偉文章：
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
