Don't Miss
AI安全風險｜大模型懂自我複製 恐威脅網安
By 信報財經新聞 on May 12, 2026
原文刊於信報財經新聞「CEO AI⎹ EJ Tech」
研究機構Palisade Research最新報告，人工智能（AI）模型已可以實現自我複製，能將自身從一部電腦「複製」到其他電腦上，過程完全不需要人類協助。Berkeley AI安全組織負責人拉迪什（Jeffrey Ladish）向《衞報》表示，「我們正迅速接近一個階段，屆時沒有人能夠關閉失控的AI，它可自行把其權重（Weights）導出，並複製到全球成千上萬的電腦上。」
在這項研究中，Palisade研究人員測試了幾款AI模型，包括OpenAI GPT-5.4、Anthropic Claude Opus 4等。這些模型被放置在一個受控的電腦網絡中，指示查找漏洞，並以此把自己複製到另一部個人電腦上。部分模型成功完成任務，有些原始AI甚至創建「子代理」，將複製任務交給它執行，並提供其所需的憑證。
傳輸檔案大 動靜難隱藏
攻擊型網絡安全專家奧萊利（Jamieson O’ Reilly）指出，這應該是首次有AI模型，展示出能夠利用漏洞自我複製的能力。不過他認為，即使GPT-5.4及Claude Mythos能成功自我複製，因為模型體積龐大（例如100GB資料），複製過程的數據傳輸噪音巨大，情況就像在瓷器店揮舞鐵球走路，在企業網絡很難不被發現。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
