跟輝達打對台!博通的「乙太網路交換器」是什麼?跟NVLink差在哪?
隨著生成式 AI 模型日益龐大,企業紛紛部署大規模運算叢集以支撐訓練需求。交換器晶片成為連接數萬顆 GPU、建構 AI 資料中心不可或缺的關鍵元件。
近期,博通(Broadcom)發表最新乙太網路交換器(Ethernet Switch)方案,主打開放式架構,提供跨品牌晶片整合與跨資料中心部署能力,成為市場對比輝達 NVLink 系統的另一種選擇。
本文整理交換器在 AI 架構中的角色,以及乙太網路與封閉式系統在技術路線上的差異與思維邏輯。
交換器是什麼?打造 AI 資料中心的必備設施!
博通資深副總裁暨核心交換器部門總經理 Ram Velaga 介紹,以往只有天氣預報、石油探勘等高運算領域才會建構大型分散式運算系統。AI 爆發後,算力需求大幅提升,許多企業都開始部署上萬顆 CPU、GPU、NPU 等處理器,形成 AI「叢集」(Cluster,使用多部小型電腦,透過區域網路等方式,合體成為較大型的分散式運算架構電腦)。此刻,交換器便成為各家不可或缺的配備。
如果將 GPU 比喻為 AI 運算的大腦,那麼交換器就是串起這些大腦的「神經網絡」。 交換器的頻寬越大、連接越快,AI 模型的效率就越高 ;若通訊太慢,就算 GPU 效能再好,因為等待訊號傳輸而閒置。
博通表示,通常每 10 顆 GPU 就需要 1 顆交換器晶片。若是適當連接,可以組成包含百萬顆處理器的大型資料中心。
而目前企業建構 AI 基礎設施時,主要採取兩種連結模式:
- 垂直擴展(Scale-up):在同一個機架中垂直擴展,讓數十至百顆 XPU 彼此連接。這種模式反應快,但規模有限。
- 水平擴展(Scale-out):橫跨多個機架甚至多個資料中心,打造分散式叢集。
乙太網與NVLink差別是什麼?封閉式vs.開放式系統的對決!
目前業界最常見的交換器連結技術,為輝達推出的 NVLink;這項技術過去完全綁定輝達的 GPU,也是輝達步上 AI 龍頭的關鍵護城河。
與輝達打對台的另一個陣營,則是以博通為首的「乙太網路」(Ethernet)。這是一套開放式的標準,可搭配任何 GPU 或自研晶片。
換言之,過去的連結標準是 NVLink 與乙太網路的封閉式、開放式之爭。直到今(2025)年 COMPUTEX 黃仁勳宣布重磅消息,新一代的 NVLink Fusion 將會開放,可以搭配其生態系內的 CPU、GPU 等元件。
對此,Ram Velaga 表示:「NVLink 雖說開放授權,但實際上有不少限制。我們希望促進整個生態的開放,而不是只為一家 GPU 服務。」博通強調其新一代乙太網路技術已達到甚至超越 NVLink 同級水準,且更穩定、更節能,也避免被綁死在單一供應商。
「如果你有開放式的連結技術,那就可以選擇最好的 GPU,把他們連在一起。並且,使用乙太網路之後,大家都可以做自己的 GPU,這才是真正的民主化。」」Ram Velaga 說明,目前客製化的 ASIC 市場仍在持續成長中,選擇開放式的乙太網路,能夠帶給 AI 資料中心更高度的架構彈性。
博通表示,AWS 與 Meta 皆轉向乙太網路,以因應新一代的分散式運算挑戰。
延伸閱讀:博通憑什麼撂倒輝達?「半導體巨鱷」陳福陽出身馬國農家,卻用10年併購大計劍指黃仁勳
博通 Jericho4 支援跨資料中心部署,突破電力與空間極限
此外,Ram Velaga 也提到乙太網路目前的另一個優勢:能夠跨越數百公里,組成跨區域的極大型分散式運算系統。
隨著 AI 模型規模變大,目前有兩個硬體極限問題浮上檯面。 首先是耗電過高 ,每個機房的電力需求動輒百兆瓦,單一資料中心已難以支撐; 其次是空間不足 ,機房塞不下百萬顆 GPU,必須分散部署。因此跨資料中心的連結,成為大型 AI 基礎建設的新挑戰。
博通表示,此次博通推出的 Jericho4 交換器晶片,採用台積電 3 奈米製程,具備每埠 3.2Tbps 頻寬、支援 36,000 個 HyperPort,可連接超過百萬顆 GPU。並支援 RoCE 傳輸距離超過 100 公里、全線速 MACsec 加密、深度緩存控制、200G SerDes 與 CPO(共封裝)技術。
透過 Jericho4,企業可以達成分散式的大型 AI 基礎架構,不受單一位置的功耗和空間限制。
這場博通與 NVIDIA 的技術競爭,表面上是交換器產品的對壘,實際上是開放式與封閉式架構的根本矛盾。隨著企業 AI 應用愈趨多元,建構自主、可彈性擴展的運算架構成為關鍵競爭力。交換器,不只是資料傳輸的零組件,更可能是 AI 網路主導權的起點。
博通這次拋出的不只是交換器新品,而是一整套基於開放精神的方案。乙太網路若能站穩腳步、搶下市場,將有可能改寫 AI 資料中心從硬體供應到網路生態的根本邏輯。
延伸閱讀:
富豪CEO俱樂部+2!Palantir與博通CEO狂領股票獎勵,薪酬飆破10億美元
博通搭上ASIC特快車,市值超車台積電!「低調的鬥牛犬」陳福陽是誰?
延伸閱讀
Perplexity是資料小偷?Cloudflare揭偽裝Chrome爬蟲,遭反嗆「我看你是不懂AI助理」
AI開發者必學!Anthropic推免費線上課:MCP、API應用、雲端服務整合… 6堂精選課一次看
「加入《數位時代》LINE好友,科技新聞不漏接」
留言 0