AI 晶片還能再便宜?NVIDIA 投資的新創 Enfabrica 推出自研晶片系統
由 NVIDIA 支持、總部位於矽谷的晶片新創公司 Enfabrica,致力於解決 AI 資料中心的效能瓶頸問題,該公司正式推出一套「EMFASYS」軟體搭配「ACF-S」晶片的系統,目標在於降低資料中心高昂的記憶體成本。
Enfabrica 推自研系統,重塑 AI 推論成本
根據《Reuters》報導,Enfabrica 的系統是針對目前 AI 主力晶片(如 NVIDIA 或 AMD 等公司出品)高成本問題,價格昂貴關鍵並非來自晶片本身,而是為維持高效運算所搭配,由 SK 海力士與美光等廠商供應的高頻寬記憶體(HBM)。
Enfabrica 創辦人暨執行長 Rochan Sankar 表示,這套系統的設計核心是一款自家研發的網路晶片,可讓 AI 運算晶片直接連接到 DDR5 記憶體規格。儘管 DDR5 傳輸速度不及 HBM,但成本大幅降低。
Rochan Sankar 指出,Enfabrica 系統能在 AI 晶片與大量低成本記憶體間進行資料交換與調度,在維持資料中心效能的同時,有效壓低整體成本,協助科技業者加速部署聊天機器人與 AI 代理人。
《EE Times》提及,「透過提升 GPU 與 HBM 的使用率,可以大幅降低每個 Token(AI 模型在處理語言時的基本單位) 的推論成本,」Rochan Sankar 表示。他將 Enfabrica 技術的潛力比喻為「CPU 虛擬化」帶來的革命性影響,如當年虛擬化技術改變了雲端運算的經濟模型。不過他也坦言,要真正發揮這種效能利用率,應用層軟體也必須同步進行調整,而這正是 Enfabrica 目前積極投入的方向。
「系統建構不只有一條路」,防成本飆升關鍵
《EE Times》補充,Rochan Sankar 強調「我們不認同那種電腦架構只能被某一家廠商定義的觀點,也不相信系統的建構方式只有單一途徑。」Enfabrica 的目標是徹底改變推論成本結構,進而顛覆客戶對系統架構的原有假設。其中一項關鍵,是讓客戶能在現有的資源、時間與技術條件下,自主打造具有彈性與差異化的 AI 系統,而不是仰賴制式化、無法突顯特色的套裝系統。
Rochan Sankar 透露,目前已有三家「大型 AI 雲端客戶」使用該系統,但他並未透露具體名稱,他向《Reuters》說明,「這並非用來取代 HBM,而是避免企業在擴充規模時成本失控飆升。」
*本文開放合作夥伴轉載,資料來源:《Reuters》、《EE Times》,圖片來源:Enfabrica 官網。
- 立即報名 8/15 【AI Agent 知識工作革命論壇】,探索人類與 AI 的合作新未來
留言 0