博通簽百億美元合約 輝達:效能與能效才是AI霸主關鍵
AI晶片大廠輝達面對博通簽下規模高達100億美元的客製化晶片合約,市場盛傳可能客戶為OpenAI,引發外界討論是否會影響輝達在AI晶片市場的領導地位。對此,輝達財務長Colette Kress在美國高盛科技會議上強調,公司優勢在於兼顧效能、能效與成本效益的整體資料中心解決方案,這些才是AI運算的真正門檻。
輝達財務長Colette Kress說明,AI模型在推論與推理階段對算力需求極高,企業在建置資料中心時不能只看眼前投資,更需考量長達4到6年的電力成本。重申輝達的設計正是為了兼顧高效能與能源效率,未來在市場競爭中,效能與功耗將是缺一不可的核心要素,這也是輝達能維持領先的關鍵。
Colette Kress續談,輝達新一代GB200與 GB300 AI機櫃已進入量產,第三季GB300出貨量更預期大增三倍,展現市場需求強勁。下一代代號「Vera Rubin」的AI GPU也已完成六款設計,預計維持「一年一代」的更新節奏;就算產品尚未上市,也已有資料中心客戶提前規劃數GW的電力配置,顯示業界高度期待。