輝達Vera Rubin系統｜性能增10倍 首批樣品已交付 料下半年應市
原文刊於信報財經新聞「CEO AI⎹ EJ Tech」
美國人工智能（AI）晶片龍頭廠商輝達（Nvidia），其行政總裁黃仁勳在今年1月發布下一代AI系統Vera Rubin，財經頻道CNBC日前深入輝達加州總部，獨家直擊Vera Rubin的廬山真面目。輝達AI基礎設施資深總監哈里斯（Dion Harris）介紹，Vera Rubin功耗大約是Blackwell兩倍，每瓦性能是Blackwell的10倍，系統預計將於今年下半年應市，號稱可解決當前AI建設的能源樽頸。另外，輝達周三（25日）在財報電話會議透露，首批Vera Rubin樣品已交付客戶。
內部模組細節曝光
CNBC網站介紹，這款全新系統採用模組化設計，旨在簡化安裝和維修，包含運算托盤、機箱、側邊導軌、滙流排，總共由130萬個零件組成，核心晶片包括72顆Rubin圖像處理器（GPU），以及36顆Vera中央處理器（CPU），主要由台積電製造。至於其他零件，來自20個國家的80多間供應商，包括中國、越南、泰國、墨西哥、以色列及美國。
以一個Rubin伺服器機櫃為例，內有16個機架，共1152顆GPU；一個Vera Rubin機架，包含18個運算托盤，每個托盤又有兩組Vera Rubin超級晶片；每組超級晶片包含一顆Vera CPU，以及兩顆Rubin GPU，總計約1.7萬個元件。輝達重新設計6顆核心晶片（包括Vera CPU），其每瓦性能較前代提升兩倍；Rubin GPU性能提升約2.5倍，提供約50 petaFLOPS的AI性能。
一個Vera Rubin機架的功耗約為220kW，作為輝達首款100%液冷系統，其運算托盤沒有軟管、電纜或風扇，採用閉環設計能節省用水；運算托盤拆卸時間，從兩小時縮短到5分鐘。Rubin GPU頂部及底部，採用最新高頻寬記憶體HBM4，供應商包括SK海力士、三星。至於應付全球記憶體短缺問題方面，輝達強調，已向供應商提供「非常詳細的預測」，並確保供應鏈同步。
每機架成本最高3120萬
輝達周三在財報電話會議提到，已向客戶交付首批Vera Rubin樣品。CNBC引述分析師預計，Vera Rubin機架的初步成本，將比Grace Blackwell增加約25%，料介乎300萬至400萬美元（約2340萬至3120萬港元）。然而，Rubin每個提詞的成本，約為Blackwell十分之一。架構每年都會快速迭代，輝達建議客戶按年度節奏購買，可能同時部署Rubin及Blackwell，以處理不同的工作負載。
Meta上周宣布計劃在2027年前，於旗下數據中心部署Vera Rubin，輝達預計其他客戶將包括OpenAI、Anthropic及亞馬遜（Amazon）。輝達同時展示Rubin之後的Kyber原型（擁有288顆GPU），預計2027年推出Vera Rubin Ultra，實現4倍GPU數量之餘，重量只增50%，以減低總擁有成本。不過，輝達同時亦面臨嚴峻挑戰，尤其來自對手亞馬遜及谷歌（Google），他們分別自行研發AI晶片，為數據中心提供動力。
Meta與AMD達巨額採購協議
至於輝達另一對手超微半導體（AMD），將推出首款機架式系統Helios。Meta近日與AMD達成採購AI協議，5年內將採購高達6吉瓦算力的產能訂單，交易價值料介乎600億至逾1000億美元（約4680億至7800億港元）。作為協議一部分，Meta將獲得認股權證，可分階段買入1.6億股AMD股份。最終可獲得AMD約一成股權，成為核心股東之一。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
