Anthropic三招阻蒸餾｜被抄數據減99% 設「保留思維」機制 半年封逾千萬可疑賬戶
原文刊於信報財經新聞「CEO AI⎹ EJ Tech」
蒸餾攻擊（Distillation Attacks）是一種隱藏式、具工業規模的攻擊活動，在未經原始模型開發者授權下提取一個模型的功能，並複製到另一個模型中，讓海外實驗室以低成本追趕美國前沿能力。美國人工智能（AI）科企Anthropic近期採用新招數，包括半年內封禁逾1100萬個賬戶，顯著降低針對Claude蒸餾攻擊的有效性。初步證據表明，採用新方法後，蒸餾者收集的數據量劇減90%至99%。
Anthropic日前在網誌指出，對非法模型提煉感擔憂，主要有兩個原因。首先，模型提煉使其他對手能建立接近能力前沿的模型，但實際上，這些模型在發布時，並未配備相應的健全保障措施。這意味提煉後的模型，可能被用於在生物學、網絡安全等領域，造成重大危害。第二個原因是，非法提取的模型構成國家安全風險。提取美國模型的公司，正將提取所得的能力，整合到外國的軍事、情報及監控系統中。
建分類器加快修復漏洞
文章提到，一般用戶很少要求模型輸出完整及隱藏的推理過程，這類請求很易被Anthropic揭發。攻擊者一直以多種方法，輪流嘗試抽取Claude的完整思考過程。例如把推理資訊，在不同模型或賬戶之間轉移；更會建立大型欺詐賬號代理網絡，有時單一網絡管理兩萬多個假賬號，賬號被封就換下一批繼續抽，過去簡單的安全措施不足以應對挑戰。
Anthropic採用3種防禦措施，對合法用戶的影響降至最低。第一種是控制推理流向，在Claude Fable 5.1及Claude Opus 5.5模型引入「保留思維」機制，可防止8月31日及之後建立的應用程式介面（API）賬戶，編輯Claude的先前上下文。第二是建立兩階段分類器，修復了紅隊成員發現的所有漏洞，令誤報率低於0.1%。第三種是實施更嚴格的使用限制，一旦檢測到重複、持續的資料提煉嘗試，團隊將封禁賬戶。
專家：用戶必尋替代模型
實際效果方面，在引入分類器後，提煉器提取的推理詞元（Token）數量，比之前大減10到100倍。更封鎖數萬個與提煉活動相關的賬戶，通常在賬戶發起提煉活動後，不到兩小時內即可封鎖。不過，分類器在不到0.1%情況下，可能錯判或攔截良性請求。為防止模型被惡意行為者濫用，打擊蒸餾仍是一場「貓捉老鼠」的遊戲。Anthropic呼籲全行業共同防禦，所有前沿開發者與平台都需投入。
本地AI專家李勁華受訪時坦言，Anthropic大規模封號，令用戶產生危機感，需要尋找替代方案，例如Google剛推出的新模型，ChatGPT規則較寬鬆，二線如Grok或月之暗面Kimi亦可用。策略方面，應減少依賴平台對話紀錄與Project功能；程式工作宜放本地版本控制，對話結果及時備份至Google Drive等自有雲端，避免數據遺失。
新版Claude使用政策收緊
坊間預期Anthropic這股大規模且持續的封禁行動，短期內不會停止。據Anthropic今年7月數據，從今年1月至6月，共有1140萬個賬戶被封禁，同期收到39.8萬宗申訴，僅4.2萬宗上訴結果被推翻。
換言之，大約每10個被封禁賬戶中，只有一個能翻案。新版Claude使用政策將於11月12日生效，明文禁止用戶持續無理虐待AI模型，又釐清假賬戶操控輿論、武器軟件、未經同意監控，以及AI控制實體硬件的限制。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
