請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

AI 算力競賽升級,智百特聚焦 GPU 資源效益最大化

科技新報

更新於 2天前 • 發布於 2天前

隨著 AI 模型規模快速擴大,如何提升 GPU 資源利用效率並最大化產出,已成為 AI 基礎設施發展的重要課題。全球 AI 基礎設施公司智百特(Zettabyte)提出「優質算力(Goodput)」概念,主張未來衡量算力價值的標準,不應僅看 GPU 數量或每小時租用價格,而應進一步評估實際完成多少有用工作,以及算力能否有效轉化為 AI 成果。

智百特資深產品經理林子揚於工研院舉辦的「AI 伺服器市場及技術趨勢研討會」中表示,隨著生成式 AI 快速普及,全球算力需求正以前所未有的速度成長。根據 Google 執行長 Sundar Pichai 在 Google I/O 大會公布的數據,全球每月 AI Token 生成量已從兩年前約 9.7 兆個增加至超過 3.2 千兆個,增幅超過 330 倍。

智百特指出,目前市場長期以 GPU 數量及租用價格作為評估 AI 基礎設施的重要指標,但這些數據無法完整反映 AI 訓練與推論的實際效益。當 AI 訓練規模擴大至數十萬甚至數百萬張 GPU 時,系統可靠度、資源利用率、故障恢復能力、可觀測性及能源效率等因素,都可能直接影響最終運算成果。

公司引用產業研究機構提出的 GPU 叢集總持有成本(TCO)分析指出,即使兩座 GPU 叢集擁有相同硬體規格與租用成本,在考量建置時間、利用率及停機等因素後,最終完成的有效工作量仍可能出現顯著差異。該研究將此稱為「Goodput」,即原始吞吐量中真正完成有用工作的比例。

為協助企業掌握 AI 基礎設施實際運作效率,智百特推出 zSUITE 平台,可針對可靠性、就緒度、可觀測性、成本透明度及能源效率等面向進行監測與分析。公司表示,部署延遲、資源閒置及系統故障等問題,都可能推高每單位 AI 產出的實際成本,而相關數據若能被量化與視覺化,將有助於企業優化基礎設施投資效益。

除了推動優質算力概念外,智百特也將推動 zSUITE 平台在台灣的應用,未來將與工研院及多所設有 AI 課程與研究實驗室的大學合作,提供軟體授權及相關技術資源,培育 AI 基礎設施與運算平台人才,強化台灣發展主權 AI 所需的技術能力。

林子揚表示,台灣已在全球 AI 供應鏈中扮演關鍵角色,從半導體、先進封裝到 AI 伺服器製造皆具備領先優勢。未來 AI 產業競爭不僅在於建置多少算力,更在於如何衡量、優化並證明算力所創造的實際價值。隨著全球 AI 投資持續增加,市場也可望逐步從採購算力容量,轉向採購實際算力成果,而可被量化的品質指標將成為 AI 基礎設施的重要競爭力。

(首圖來源:智百特提供)

立刻加入《科技新報》LINE 官方帳號,全方位科技產業新知一手掌握!

查看原始文章

更多理財相關文章

01

台灣百億食品大廠「董事辭世」!公司突發重訊證實了

三立新聞網
02

台灣食品大廠獨董「驚傳辭世」 公司發重訊證實了

EBC 東森新聞
03

台股週一恐續震?融資猛殺出200億!他點「週末1操作自救」:別急…

民視新聞網
04

護國神山自己救!台積電遭外資連4砍 3家上市櫃公司搶進280張

ETtoday新聞雲
05

50歲後才明白:真正折磨人的不是股票,是「買在對的時間」…放下擇時焦慮,錢反而站得住腳

幸福熟齡 X 今周刊
06

台股為何大跌? 阮慕驊曝原因跟蘋果有關:柿子撿軟的吃

鏡週刊
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...