中國全面封殺 H20!企業搶購二手 GPU 改裝,A100、H100 需求暴漲
雖然 NVIDIA H20 加速器在 7 月恢復出口,但因中國監管機構以數據安全為由表達疑慮,使 H20 幾乎全面遭到封殺,目前中國 AI 產業正轉向翻新使用二手 NVIDIA GPU,以應對突如其來的替代需求。
市場消息傳出,因官方已全面封殺 H20,隨著中國企業將 A100、H100 顯卡拆解、重組成「低成本、高效能」的客製化推論系統,導致業界對兩款舊顯卡需求激增。
AI 推論(AI Inference)所需的算力比 AI 訓練還低,即使在經過重新配置的硬體上,仍可高效運行,這也是 2020 年推出的 A100 之所以仍具價值的原因。
A100 採用 NVIDIA Ampere 架構,搭載最高 80GB HBM2e 記憶體與 2 TBps 頻寬,雖然沒有達到 Hopper 架構的極致效能,但憑藉大容量記憶體與成熟 CUDA 軟體生態,對推論任務仍有效。
至於 H100 配備 HBM3 記憶體,AI 訓練效能比 A100 高達六倍。相比之下,中國降規板 H20 雖針對推論優化,但被閹割過度,其 AI 效能僅 H100 的約 1/3 至 1/7,在 FP64 超算運算中更是慢超過 30 倍。也因此,二手 A100 可能都比全新 H20 更具有吸引力。
不過,目前 NVIDIA 則陷入矛盾中,因為華府對 H20 祭出出口限制,導致公司認列 55 億美元庫存減損;另一方面,輝達 GPU 卻仍是推動中國 AI 熱潮的核心,而如今的灰色市場可能侵蝕利潤,拖慢新架構的推廣。
對中國來說,灰色市場同樣成為隱憂,資料中心每使用一塊二手 H100,意味又少了一個使用昇騰(Ascend)加速器的機會,恐延緩本土投資的進展。而中國 AI 產業則是等待政治與技術障礙解除的同時,盡可能延長舊款NVIDIA 硬體的使用壽命。
(首圖來源:科技新報)