請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

輝達、甲骨文擴大AI合作 Rubin部署瞄準數GW

工商時報

發布於 21小時前 • 張珈睿

輝達(NVIDIA)與甲骨文(Oracle)27 日宣布擴大 AI 基礎設施合作,規劃將甲骨文雲端基礎設施(OCI)搭載 Vera Rubin NVL72 的超級叢集,擴展至數 GW(數百萬瓩)規模。Vera Rubin NVL72 與 Vera CPU 也同步於 OCI 正式開放使用,搶攻大型模型訓練、推論及 AI 代理運算需求。

Vera Rubin NVL72 每個機架透過 NVLink 串接 72 顆 GPU,搭配 OCI 多平面網路,可將叢集擴展至數十萬顆 GPU。甲骨文另於官方技術部落格揭露,初期將於旗下雲端區域提供共 15 萬顆 Vera CPU,擴充支援 AI 代理的運算資源。

此次合作焦點,除了擴大 GPU 部署,也涵蓋 AI 代理背後的 CPU 運算需求。AI 代理在模型推論之間,仍須呼叫工具、執行與測試程式碼,以及擷取資料;若 CPU 處理速度跟不上,便可能拉長任務完成時間,讓 GPU 等待後續工作,影響整體運算效率。

搭載 Vera CPU 的 OCI Compute,主打高單執行緒效能與高記憶體頻寬,分別加速個別工具呼叫、程式執行,以及多項任務並行時的資料存取。客戶可透過 OCI Kubernetes Engine,依工作負載分別擴充 CPU 與 GPU 資源;Oracle Acceleron 則提供硬體隔離機制,支援執行尚未受信任的 AI 生成程式碼。

在 GPU 基礎設施方面,這波擴建將以 OCI 現有 GB200、GB300 NVL72 系統為基礎,結合 NVIDIA Spectrum-X 乙太網路、Spectrum-6 交換器與 BlueField-4 DPU,搭配大型供電及冷卻設施,支援前沿模型訓練與服務。雙方也將透過 CUDA 軟體平台及持續最佳化,支援不同世代硬體上的模型與工作負載。

除機架級系統外,OCI 也規劃導入 HGX Rubin NVL8,提供較小規模的部署選項。該平台將以 NVLink 連接 8 顆 Rubin GPU,搭配 2 顆各具 64 核心的 Intel Xeon 6 CPU、4 TB DDR5 記憶體,以及 6.4 Tbps RDMA 網路,兼顧 AI 訓練、微調及推論需求,並維持與既有 x86 應用程式的相容性。

OpenAI 則是雙方合作的重要客戶。據悉,OpenAI 已在美國德州阿比林,利用配置逾 10 萬顆 NVIDIA Blackwell GPU 的 OCI 超級叢集,訓練並提供 GPT-6 Astra 服務。OpenAI 運算技術長 Uday Ruddarraju 表示,正將 OCI 上的 Vera CPU 導入正式營運環境,以支援持續成長的 AI 代理沙盒工作負載,包括執行程式碼及運行工具。

輝達超大規模運算與高效能運算副總裁 Ian Buck 表示,AI 工廠除了提供高效率運算,也須透過軟體持續進步,延長基礎設施的使用價值,並隨需求變化支援不同模型與工作負載。此次與甲骨文擴大合作,將透過 Vera Rubin 與 Vera CPU 的搭配,提高客戶現有及新增運算資源的使用效率。

加入《工商時報》LINE好友,財經新聞不漏接

查看原始文章

更多國際相關文章

01

今年第2次重大事故!西班牙高鐵追撞68死如地獄 生還者:女孩死在我懷裡

鏡報
02

西班牙高鐵追撞關鍵錄音曝光 調度員違規下令列車「恢復全速」

anue鉅亨網
03

驚爆「極大危機」 前FBI副局長呼籲美國人:快點規劃30天應變準備「打造住家堡壘」!

鏡報
04

在社群曬恩愛都是假!韓男3小時狂毆514次 女友受酷刑「臟器爛掉」慘死

鏡報
05

15年內吃掉38人!烏干達「史上最殘暴食人魔」落網...專挑一家人下手

鏡報
06

岳父涉兒少性影像!哈利王子帶全家離開英國 梅根一見5歲女兒就淚崩

鏡週刊
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...