「AI 不只是資料中心。」AMD 揭 AI 發展重點如何走向地端推理
AI 發展不斷加速，晶片大廠 AMD 近期動作頻頻，5 月與台灣政府和企業合作成立台灣算力聯盟，6 月在全球併購了三家公司。AMD 怎麼看待最新的 AI 產業趨勢，又如何迎戰？
從訓練走向 AI 代理，企業 AI 推理需求升溫
「AI 不只是資料中心，」AMD 資深業務協理黃偉喬在 AI 智慧大工廠系列論壇上分享，AI 發展重點已從模型訓練邁向推理應用，並從多模態理解進化到能主動執行任務的 AI 代理（Agentic AI）。
他指出，AI 模型的訓練方式也在演進。過去企業多將資料集中處理，如今「聯邦式學習」（federated learning）強調分散式運算，讓模型在資料不出地端的情況下共同學習；面對資料稀缺狀況，「自監督學習」則能在小樣本下自我訓練，顯示 AI 技術正持續進化。
此外，黃偉喬觀察企業對 AI 地端推理的需求成長，主因包括雲端 AI 的成本高昂、不希望將機密資料上傳雲端，以及營運現場不一定能穩定連網，因此未來 AI 的推理架構從雲端延伸至邊緣裝置，甚至延伸到筆記型電腦、手機等終端。
談到近期熱門的 AI 代理，黃偉喬強調 AI 的價值不再是單純的問答，而是要能協助分析問題脈絡、進行推論，並「產生行動」。他表示，若針對資訊只能生成洞見而無行動力，AI 價值將大打折扣。
AI 晶片市場競爭，AMD 採取開放、合作策略迎戰
面對 AI 晶片市場的激烈競爭，「我們有一個很重要的策略就是走向 open（開放），」黃偉喬表示，AMD 除了提供涵蓋資料中心伺服器 CPU、GPU 到用戶端 PC 完整解決方案的晶片，也致力於推動自家軟體框架 ROCm，推動更開放的硬體和軟體架構。
這項開放策略體現在 AMD 的多層面布局：其下一代機架採用 OCP 標準，讓更多硬體製造商能參與設計；在晶片之間的互連技術上，AMD 也開發出 Infinity Fabric、成立聯盟，讓合作夥伴能基於此技術進行晶片互連；在網路協定方面，AMD 更與 Microsoft、Meta 等公司共同成立 UEC（Ultra Ethernet Consortium）聯盟，推動開放的 Ultra Ethernet（UESN）架構。
在軟體支援方面，AMD 全面支援 Hugging Face 平台上所有開源模型，以及 PyTorch、Triton 等主流開發框架與加速工具。黃偉喬強調，AMD 的開放策略目的在避免市場被單一廠商壟斷，讓更多夥伴參與。
在台灣，AMD 已和工研院展開深度合作，涵蓋多個 AI 應用與資源分享，像是開發多模態知識檢索應用，協助企業建立自有知識庫，以及產品外觀瑕疵檢測，並且在台灣打造 AMD MI300X GPU 高速運算平台免費分享算力給產學研使用。
黃偉喬表示，AMD 認為 AI 創新是全球協作的成果，沒有任何一家廠商能獨自完成所有事情，而推動這方整合的重要推動力就是開源，AMD 接下來將持續發展並貢獻開源技術，與台灣在地企業展開更多合作機會。
＊本文部分初稿由 AI 生成，經《TechOrange》編撰，圖片來源：《TechOrange》
留言 0