Don't Miss
OpenAI新技術｜防瀏覽器受網攻
By 信報財經新聞 on December 24, 2025
原文刊於信報財經新聞「CEO AI⎹ EJ Tech」
ChatGPT開發商OpenAI一篇文章稱，旗下人工智能（AI）網頁瀏覽器Atlas，將會設法加強防禦能力，以應對持續不斷的攻擊，惟同時表示，「提示注入」攻擊難以「一勞永逸解決」。
OpenAI今年10月下旬推出Atlas，可以透過AI代理功能，像真人一樣點擊與網頁操作，但被外界批評這可能會遭到「提示注入」指令劫持，進而導致偏離任務，甚至資料外洩。
研自動化紅隊演練堵漏
文章提到一個案例：攻擊者先投寄了藏有惡意指令的郵件，當用戶下令AI撰寫自動回覆時，注入內容被誤當作優先指令，結果它竟幫用戶發信向上司辭職。
為了應對此類風險，OpenAI開發一套運用端到端強化學習（RL）技術的自動化紅隊演練系統，透過在非對稱優勢下反覆地模擬、迭代攻擊行動，提高發現新形態漏洞的機會。
儘管如此，OpenAI指出，「我們預期對手將會持續適應，就像網絡詐騙、社會工程攻擊一樣，提示注入不太可能一勞永逸解決。」
另外，OpenAI建議用戶使用Atlas時，盡可能限制需要登入存取的網站，並且應該仔細審查確認請求，以及給出很清晰的明確指令。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
