Equinix｜新推理AI基建 助慳Token 夥輝達拓分散式網絡 明年首季上線
原文刊於信報財經新聞「CEO AI⎹ EJ Tech」
全球數碼基礎設施公司Equinix日前公布，跟美國晶片巨頭輝達（Nvidia）達成長期合作，向全球企業推出分散式人工智能（Distributed AI）推理方案Equinix Inference Exchange。客戶可透過開源模型平台Together AI運行他們的AI模型，提升AI部署速度、靈活性及成本效益，將於2027年首季正式上線。Equinix股價今年累升33%，跑贏所有大型科技公司，市值達到1000億美元（約7800億港元）。
官方數據顯示，Equinix在全球77個大都會區，擁有超過280個數據中心、230個雲端存取點，並透過其中立交換中心連接超過一萬間企業。主要負責提供基建、電力、冷卻及Fabric網絡連接，將其設施的空間出租予各種規模的客戶，讓他們在各大平台運行伺服器。
至於輝達提供經過驗證的企業參考架構，最大限度提高AI工廠吞吐量，以及最大限度降低詞元（Token）成本。
Together AI提供200開源模型
目前業界的共識是，訓練是一次性大投入，推理才是主要算力消耗。根據麥肯錫預測，到2030年推理將佔AI算力約一半，並佔數據中心總需求30%至40%。Equinix已觀察到，新部署中約60%與推理相關。這單合作直接把Equinix的全球都會區足跡，轉化為「分散式推理網絡」，避開超大規模雲端服務商（Hyperscaler）的集中式樽頸。
總部位於美國三藩市的Together AI，客戶包括Cognition、Decagon、Eleven Labs、Cursor、Suno等AI公司，專注於開源AI模型的基建與服務，提供完整的AI開發與部署平台，讓開發者、研究人員與企業，使用超過200個開源模型。平台不自行訓練封閉的基礎大模型，而是運行、微調、訓練與部署開放權重模型，例如DeepSeek、Llama、Nemotron、MiniMax（00100）、Kimi、Qwen、Mistral等模型，通常將成本降低6到20倍。
人工智能的蓬勃發展，市場對開源模型需求日益增長，其中許多模型都產自中國；以每個詞元計算，相對於美國的同類產品，使用成本或僅五十分之一。
美國《紐約時報》早前報道，Together AI在今年7月，完成了C輪融資8億美元（約62.4億港元），公司估值達83億美元，總融資額達13億美元。過去一年，該公司每月處理的提詞量增加一萬倍。截至上季度，其年化營收增長至12億美元。
黃仁勳：拒用AI遭時代拋離
在日前的二十國集團（G20）創新部長級會議上，輝達（Nvidia）行政總裁黃仁勳呼籲成員國，加快採用AI以促進經濟增長，不要對AI的「假設性、理論性危害」監管，企業應該「自行負責安全地開發這項技術」。他將這項技術比作水、道路、電力及網絡一樣，稱之為「這是偉大的平衡器」。對於一個國家而言，最糟糕的結果是不去利用它，然後被時代拋在後面。
出席同一場合的OpenAI行政總裁阿爾特曼（Sam Altman）稱，對與會的世界領導人而言，採用AI是「不容談判的議題」（non-negotiable）。他敦促各國部長擁抱AI，並警告說，如果不這樣做，就好比工業時代拒絕電力一樣。他斷言：「如今的孩子永遠不會比AI更聰明。」更預測10年後AI無處不在，如有電開燈一樣習以為常，不會像今日成為熱門話題。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
