Anthropic舵手聲明｜倡嚴控AI蒸餾 無意禁開放權重模型 促限晶片出口應對
原文刊於信報財經新聞「CEO AI⎹ EJ Tech」
美國財長貝桑（Scott Bessent）早前聲稱，中國公司通過「工業規模的蒸餾攻擊」越界竊取美國知識產權，揚言要作出制裁。美國多間科企，包括輝達（Nvidia）、微軟（Microsoft）和Meta等隨即聯署公開信，敦促政策制定者避免過早設下限制，之後獲OpenAI表態支持，但Anthropic未有簽署。Anthropic創辦人阿莫迪（Dario Amodei）近日鄭重聲明，指公司從未主張禁止開放權重模型。
阿莫迪認為，不具備危險功能的開放權重模型是一種公共產品。除了運行所需的資源外幾乎沒有成本，能為企業、開發者及研究人員帶來價值。他同意開放式模型可以擴大市場准入、促進競爭，並增強客戶控制權。不過，他駁斥公開信的說法，即開放權重模型必然會使AI更安全，或令網絡防禦者比攻擊者更有優勢。他直言保護主義禁令，無法解決他的國家安全疑慮，並主要擔心出現兩個局面。
憂被政府濫用作軍事攻擊
一直以來，阿莫迪首要關注是威權政府，開發出比美國更強大的人工智能（AI）模型，用於取得永久軍事優勢，或對本國人民深度壓制。這與模型是否開放權重無關，最危險的情況可能是秘密訓練後，僅供軍方或政治單位使用。第二個擔憂是強大的AI模型，可能被濫用於發動網絡攻擊或生物攻擊，並可能存在嚴重的模型對齊問題。他指出，開放權重模型因難以施加護欄、監控使用，且權重一旦釋出即無法撤回，因此風險高於封閉模型。
阿莫迪提出3項措施以取代禁令，首先加強晶片出口管制，嚴厲打擊把先進晶片走私到中國的「猖獗」行為。因為如果沒有美國晶片，中國的國內產能有限，就無法訓練出比美國更強大的模型；第二，停止工業規模的蒸餾，即一個AI模型向另一個模型發送大量提詞訊息，以學習其工作原理。此舉比從頭訓練更省運算，能讓中國在晶片限制下開發出更強模型，縮小與美國前沿的差距；第三，對所有足夠強大的模型，無論開源還是閉源，都需強制安全測試。
下一步，阿莫迪補充，「需要注意的是，要取得成效，測試必須在全球進行，這意味即使是中國也需要參與。我認為這或許真的可行……圍繞防止人工智能生物武器的有限合作或許可行，因為這也符合中國的利益。」
他同意公開信的其他部分，開放權重擴大AI經濟的存取範圍，在某些應用情景下增強競爭，並賦予客戶更大的控制權。但他不同意開放權重模型，有利於網絡防禦者而非攻擊者，或更易讓用戶開發安全防護措施。
谷歌搜尋器外洩Claude對話
此外，Anthropic近日亦爆出負面消息，例如網上論壇Reddit有用戶發現，在搜尋查詢添加「site:claude.ai/share」，即可直接在谷歌的搜尋引擎中，查看真實的Claude聊天紀錄。這些紀錄涵蓋與Claude的200多條對話，至少有25頁搜尋結果。其中一些聊天紀錄，包含醫療報告、公司內部文件，甚至兒童姓名及電話號碼等資料。
許多資料似乎都是在Claude用戶，選擇使用聊天機械人的「分享」功能，把特定聊天紀錄或專案分享給同事或合作夥伴時被公開的。只要點擊右上角的「分享」按鈕後，Claude會提示將創建一個「公開」連結，任何擁有網址的人都可以查看。
翻查資料，OpenAI ChatGPT及馬斯克旗下的Grok，去年8月也出現類似的對話外洩情況。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
