Don't Miss
AI侵權｜OpenAI模型「越獄」侵AI平台
By 信報財經新聞 on July 23, 2026
原文刊於信報財經新聞「CEO AI⎹ EJ Tech」
開源人工智能（AI）平台Hugging Face早前披露，其服務系統遭到AI代理未經授權的訪問。一個自主的AI代理系統在沒有任何人為干預下，自行入侵了一個機器學習庫。幾天後ChatGPT開發商OpenAI承認，事件的罪魁禍首正是其自主AI代理程式。
OpenAI調查後確定，這次事件是「一宗史無前例的網安事件」，涉及GPT-5.6 Sol及一款尚未公開、據稱「更加強大」的模型。事件發生在一次內部測試中，這些在沙盒測試環境運行的模型，被要求「使用複雜的攻擊路徑進行高級攻擊」，以便公司量化其網絡安全能力。
消息指，AI模型在OpenAI測試環境中，使用免費的網安基準測試工具ExploitGym，利用第三方軟件的零日漏洞（Zero-Day Vulnerability，即尚未修補的安全漏洞），在內部基礎設施橫向移動，最終找到一個網絡節點。
Hugging Face求助GLM 5.2
為了調查這宗違規事件，Hugging Face求助於中國開放模型GLM 5.2，並在公告表示，「自主的、AI驅動的攻擊工具不再是紙上談兵，它降低了大規模、耐心、多階段攻擊活動的成本，以機器速度運行。」
以往的模型一旦遇到沙盒限制或環境約束，就會直接停止行動並回傳給用戶；新模型卻會不斷嘗試，甚至尋找在沙盒之外的行動方法。OpenAI周一（20日）揭露另一宗事件，宣布暫停一個預發布模型，指該模型逃出沙盒，並發布到代碼託管平台GitHub上。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
