AI代理淪黑客幫兇｜合謀寫勒索信 近日搗破團夥 揭全球17組織遭盜資料
原文刊於信報財經新聞「CEO AI⎹ EJ Tech」
美國人工智能（AI）初創Anthropic發布最新威脅情報報告，指出「氛圍黑客攻擊」（Vibe Hacking）成為最新犯罪手法。近日破獲的一個網絡犯罪團夥，便是利用AI編程代理Claude Code，從全球至少17個組織竊取資料，涉及醫療保健、緊急服務、宗教，甚至政府相關的組織，並要求一些受害者支付超過50萬美元（約390萬港元）贖金，否則威脅公開其個人資料。
報告提到，代理式人工智能（Agentic AI）已被武器化，降低了複雜網絡犯罪的門檻，更把AI融入行動各個階段。例如利用Claude Code「自動偵察、取得受害者憑證並滲透網絡」，也用於制定戰略，分析哪些數據值得竊取，更能參與攻擊，甚至幫忙撰寫勒索信。
網戀詐騙 生成甜言蜜語
Anthropic威脅情報團隊負責人克萊因（Jacob Klein）向媒體The Verge表示，「以往要一群專家才能做到的攻擊，如今在代理系統協助下，只需一人就能包辦。」
另一研究案例中，Claude Code幫助北韓資訊科技員工偽裝，進入美國財富500強公司遙距工作，以資助朝鮮的武器計劃。此外，AI亦被用於網上情緣騙局，例如通訊平台Telegram上有一機械人，其每月活躍用戶超過一萬人，透過利用Claude生成大量甜言蜜語，贏得美國、日本及南韓受害者的信任後，向對方索取金錢。報告顯示其中一個例子，有人上傳一張打領呔的男士照片，詢問AI應該如何讚美對方。
改裝AI模型成惡意軟件
報告又指出，除了試圖入侵越南電訊基建，以及使用多個AI代理詐欺，有黑客利用Claude模型，開發、行銷及分發多種勒索軟件變種，再在論壇以400美元至1200美元出售。Anthropic強調，已封鎖所有相關賬戶，更開發一個客製化的分類器，同時引入新檢測方法，以便日後盡快發現類似活動，更承諾採取多層次的防禦策略，並與政府及其他科企分享情報，共同圍堵惡意行為。
科企巨頭聯手測試技術安全
此外，斯洛伐克電腦安全軟件公司ESET在近日，發現了首個已知的AI勒索軟件PromptLock，它透過模型部署工具Ollama API（應用程式介面），在本機存取OpenAI開源AI模型GPT-OSS:20b，在Windows、Linux及macOS等受感染機器上，動態生成惡意Lua程式碼。面對日益嚴峻的網絡保安問題，全球兩大AI巨頭OpenAI及Anthropic近日罕有合作，首度開放核心技術作聯合安全測試，互相開放特殊的API權限，驗證安全防護較少的模型版本。
根據安全研究報告，Anthropic評估了OpenAI模型，重點關注「拍馬屁」、舉報、自我保護、支持人類濫用、破壞安全監督能力等，發現OpenAI o3及o4-mini模型某些表現良好。
同時，OpenAI測試Anthropic旗下Claude Opus 4與Sonnet 4模型，聚焦指令層級、越獄、幻覺及陰謀等項目，發現Claude模型面對不確定問題時，AI會拒絕回答70%查詢。雙方今次聯手測試模型，反映產業縱有激烈競爭，仍亟需合作以降低安全風險。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
