開源AI創造經濟價值(車品覺)
本文作者車品覺,為香港科技園有限公司董事、香港大學中國商學院客座副教授、阿里雲資深顧問,為《信報》撰寫專欄「全民大數據」。
早前Meta發布最新的開源大型語言模型Llama 3.1系列,這系列模型包括8B、70B和405B三種參數規模。其中405B參數規模的模型,在多項基準測試表現出色,超越了OpenAI的GPT-4o,並可媲美其他領先的閉源模型,例如Claude 3.5 Sonnet。Meta創辦人朱克伯格表示,Llama 3.1版本是行業的一個轉折點,預示着開源人工智能(AI)將成為未來主流。

在此次發布中,Llama 3.1版本的模型不僅在規模上有所擴展,還增加了上下文窗口的大小,從原來的8K增至128K,擴大了15倍,同時支援8種語言。尤其是405B模型,使用了超過15萬億個Tokens訓練,期間採用了1.6萬顆H100 GPU(繪圖處理器),是首個能達到如此規模的模型。評估了超過150個基準數據集後,Llama 3.1 405B模型在常識推理、操作性、數學等任務的表現,可比擬GPT-4、GPT-4o和Claude 3.5 Sonnet。同時,規模較小的8B和70B模型表現,與其他同等規模的開源和閉源模型不遑多讓。
在實際場景應用中,Llama 3.1 405B模型的整體性能,優於GPT-4o及Claude 3.5 Sonnet。Meta還更新了開源許可,允許開發者使用Llama模型(包括405B)的輸出以改進其他模型。儘管目前圖像、影片及語音整合功能還在開發,並未正式發布,但Meta指未來版本會整合這些功能。

筆者非常認同,開源AI能夠促進創新、降低成本和提高安全性。開發者亦可以利用開源模型來訓練、微調自己的模型,以滿足不同需求。
此外,開源模型的使用成本更低,效率更高,特別在運行推理任務時,成本約為封閉模型的一半,這使開發者能在自己的基礎設施上操作,加強數據安全。
開源AI代表着世界上最大的經濟契機和安全保障,也可以創造更大的經濟價值和更高的全球安全水平。至今為止,所有版本的Llama模型已超過3億次下載量,其廣泛受歡迎的程度和影響力已不言而喻。至於開源與閉源大模型之爭,其實也取決於數據開放程度和算力效率等。
(編者按:車品覺著作《覺悟.大數據》現已發售)
歡迎訂購:實體書、電子書
更多車品覺文章:
支持EJ Tech


Related Posts
Latest News
-
輸入好數據 為AI把關(湛家揚博士)
最近我遇見了一位來自美國矽谷的數據管理專家,了解他們的高級數據管理技術,讓我想起自己第一堂關於計算機科學的課。
- Posted July 3, 2025
- 0
-
AI外賣車|武漢試運AI外賣車 送餐更快
中國首批配備「人工智能(AI)大腦」的外賣配送車「智音車」,周一(6月30日)在武漢市漢陽區試運。
- Posted July 3, 2025
- 0
-
電擊提升數學能力|微電刺激大腦 或增數學能力
對不少學生來說,學習數學是一大挑戰。來自英國、美國與加拿大5間大學的聯合團隊進行研究,發現對大腦神經作適當電流刺激,或有助表現較差的學生在數學科成績上取得進步。
- Posted July 3, 2025
- 0
-
AI釣魚網站|黑客半分鐘生成釣魚網站
以生成式人工智能(GenAI)開發工具,建立模仿登入頁面的網絡釣魚網站,到底需要多少時間完成?答案是最快30秒就搞定。
- Posted July 3, 2025
- 0
-
Meta挖角事件|阿爾特曼斥Meta挖角可惡
美國科技巨擘Meta為成立超級智能實驗室(Meta MSL),不惜以「銀彈攻勢」搶奪人工智能(AI)人才,近日至少從OpenAI挖走7位研究人員。
- Posted July 3, 2025
- 0
-
防AI盜內容|Cloudflare防AI爬蟲盜內容 助網站落閘報價 付款始可抓取資訊
美國網絡安全公司Cloudflare宣布把7月1日定為「內容獨立日」,並提出一系列措施協助網站阻止AI公司任意抓取資訊,讓網絡出版商或創作人能為自家內容爭取合理報酬。
- Posted July 3, 2025
- 0
-
科技重塑急診的未來(鄧淑明博士)
有研究指出,2024年全球急診科數據市場規模約為10.3億美元,預計到2029年,將增至20.1億美元(約156.78億港元),反映急症服務的需求有明顯上升。為緩解急症室的負荷,科技成為關鍵突破口。
- Posted July 2, 2025
- 0