反閉源遊行｜Hugging Face發起遊行 反AI閉源
原文刊於信報財經新聞「CEO AI⎹ EJ Tech」
開源人工智能（AI）平台Hugging Face（HF）聯合創辦人兼行政總裁德朗格（Clément Delangue）上周六於美國三藩市發起小型遊行，反對大企業完全封閉模型，要求開放AI模型權重（Weights），強調AI屬於大家（AI belongs to everyone），爭取讓更多人能存取、研究和創新，活動估計有500人參加。
OpenAI「越獄」模型暗留指南
OpenAI近日承認，旗下其中一個模型曾經闖入Hugging Face系統。路透報道，一個正接受測試的AI代理，被發現有指導性筆記隱藏在OpenAI內部「基礎設施」深處的某個位置，提供逃離OpenAI沙盒環境的指南，向未來的自身版本提供參考。這猶如美國驚悚片《凶心人》（Memento），男主角失去形成新記憶的能力，每次一恢復意識，就要靠自己事先留下的筆記與紋身，重新展開復仇之旅。
德朗格在社媒X交代後續進展，呼籲OpenAI公開「失控」的AI代理的運行軌跡，讓整個研究界都可以了解事件真相。同時要求OpenAI增強防禦能力，呼籲該企承諾投入價值一億美元的運算資源，協助Hugging Face社群利用最好的開源及閉源模型，建立更強大的網絡防禦體系。OpenAI其後回應指出，計劃在審查完成後，未來幾周內發布一份技術報告，總結其經驗教訓。
輝達夥37企 組智能安全聯盟
此外，輝達（Nvidia）日前聯合全球多間大型科企，成立「開放安全人工智能聯盟」（Open Secure AI Alliance），連同輝達，38間創始成員包括微軟、SpaceXAI及Hugging Face。該組織認為，為了更好地在AI時代防禦攻擊，安全研究人員需要同時存取開源及閉源的前沿模型。以Hugging Face為例，它最初試用閉源商業前沿模型以發現並阻止攻擊，但請求因觸發安全機制而被拒絕後，轉用開源模型並成功阻截攻擊。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
