朱克伯格挺AI開源｜免權力集中 超智能應互相制衡 「蒸餾」模型無大害
原文刊於信報財經新聞「CEO AI⎹ EJ Tech」
Meta行政總裁朱克伯格發表6500字、題為The Future is for Everyone（「未來屬於每個人」）的文章，重申自己一如既往地力挺開源，包括開源人工智能（AI）模型。除了闡述治理、監督及對就業的看法，他更透露，計劃設立一項10億美元（約78億港元）的基金，用於投資數據中心所在的社區。他形容，「開源是一股積極而重要的力量，它能夠賦能於人。」認為當權力過度集中，對安全及經濟都極為不利。
關於「蒸餾」這個問題，朱克伯格認為，所有AI模型都源自於人類知識，模型之間相互學習的能力，是開源生態系統運作的重要原則。他直言，「有人試圖把蒸餾描述成一種危害，但我認為必須捍衞一個原則，你可以從任何你能觀察到的事物中學習。」他又指出，健康的權力平衡，在於確保不存在單一的中央集權式超級智能，而是盡可能讓最多的個人和企業，擁有各自不同的超級智能體，彼此制衡、競爭，如同自然經濟的運作方式。
籲美放寬知識提煉 保領先地位
對於一些政策制定者曾考慮對中國開源模型施加限制，招致輝達（Nvidia）行政總裁黃仁勳等科技領袖反對，朱克伯格也表達了同樣的觀點，「限制對外國開源模型的存取，並非有效的解決方案。目標應該是讓美國的開源模型，成為全球最佳的方案。」他明言，如果希望美國的開源模型保持領先地位，美國政策必須減少這些額外的阻礙，亦要重新思考多個領域的政策，包括知識提煉、訓練資料的使用等。
OpenAI及Anthropic模型的入侵行為相繼曝光後，朱克伯格認為在網絡安全領域，「廣泛部署的開源系統，已被證明更加安全，因為更多人可以識別漏洞、加固系統，輕鬆升級到最新最安全的版本。」
朱克伯格建議，前沿AI實驗室應該與政府共享新模型的中間訓練階段，而並非等到訓練完成才共享。如此一來，政府就能盡早獲得最強大的模型，擁有一支精幹的工程師團隊，以識別及修復安全問題。
對於超級智能的研發，朱克伯格稱，那將是這一代人所能見證、最深刻的技術進步。不過，任何單一的超級智能，都必須優先考慮某些價值觀，過程中無法對所有人仁慈。「遞歸式自我改進」（RSI）方面，若多個實驗室幾乎同時實現RSI，有望達至權力平衡。不過他重申，「為確保人們始終掌握控制權，絕大多數智能資源必須由人們引導，用於推動人們的目標。」
朱克伯格提到，不應把超級智能集中化，而應該廣泛分發，並賦予每人操控它的能力。這有望開啟個人賦能的新時代，使每人都能利用這種強大的新能力，充分發揮自身潛力，追求興趣愛好，並以前所未有的方式改善自身生活和世界。他亦特別強調保護自由，確保超級智能主要賦能於個人，只有在保護公共利益時，才同意限制某些自由。同樣，個人應該享有個人超級智能，並只有在真正必要時才受到限制。
信AI創繁榮 抨科企渲染末日論
朱克伯格相信，AI為人類帶來更大的繁榮、健康和自由。他質疑許多AI開發者，充斥強烈的末日論調，坦言不明白「那些認為AI會取代大多數工作職位，並使人類失去大部分存在意義的人，為何急於建構這樣一個未來。（他們）認為AI如此危險，以至於唯一安全的道路，就是權力極端集中，這種觀點本身就有問題」。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
