Arm 搶占 AI 邊緣戰場！裝置端部署成企業下一步戰略關鍵

2025年台北國際電腦展（COMPUTEX）前哨戰起跑！今（5/19）晶片設計架構大廠安謀（Arm）資深副總裁暨終端產品事業部總經理克里斯．柏基（Chris Bergey），以「雲端至邊緣：共築在 Arm 架構上的人工智慧發展」為題發表演講，拆解安謀與 AI 發展的下一步。

今日同場的對談者還有，輝達（NVIDIA）網路事業群資深副總裁凱文．戴爾林（Kevin Deierling）、聯發科個人裝置事業部副總裁暨總經理亞當．金（Adam King）。

在 2024 年在 COMPUTEX 上，Arm 推出 Arm Kelidi 軟體工具，能夠與多個主流 AI 框架整合，提高各裝置的 AI 效能，現在也能用在邊緣裝置，像是開發手機 App、資料中心應用、AI 車輛等。

克里斯．柏基怎麼看 Arm 的布局與 AI 發展的下一步？他點出兩大關鍵趨勢，擘畫出 AI 從雲端到邊緣的發展藍圖。

趨勢一：AI 正從雲端轉向邊緣（from Cloud to Edge）

「 AI 發展的下一個關鍵，不只是模型本身，而是這些模型會在哪裡運作，」過往 AI 依賴雲端伺服器進行運算，但現在落地到實體裝置， 克里斯．柏基指出，接下來許多 AI 助理與智慧應用不再以雲端為優先，而是從裝置端出發設計，也就是所謂的邊緣 AI。

何謂邊緣AI？意即，AI 模型可以直接在裝置運算，不用再把資料傳到雲端。邊緣 AI 的優點，是運算速度將比雲端模型更快、也可以支援離線運作。

AI 不再只活在資料中心，而是走入我們的手掌與生活現場，這樣的應用，將從智慧眼鏡、AI PC、手機晶片，到車用平台與工廠機器人，全都存在，而這正是 AI 走向規模化、讓用戶規模最大化的關鍵。

可以想像的是，AI正在重塑我們的生活場景，以及每個消費戰場。

這也意味著，晶片供應商未來不只要搶占雲端伺服器市場，更得積極布局邊緣 AI 應用。

為了因應這點，克里斯．柏基表示，Arm 不只是架構設計者，而是一個平台，讓客戶與開發者，能從雲端到邊緣 AI 都使用他們家的架構。

這樣的做法，會有什麼好處？克里斯．柏基進一步指出，當未來 AI 發展愈來愈複雜，合作夥伴愈多、開發者愈多，就愈容易構築安謀的生態系、創造飛輪效益。

這也是 Arm 的優勢之一，例如比起英特爾（Intel）的 x86 架構，只開放給少數客戶使用，Arm 的架構是用授權的方式，提供所有客戶使用，也讓更多晶片公司、裝置製造商、甚至新創團隊能夠基於 Arm 架構，開發屬於自己的晶片與 AI 應用，使其做到在手機晶片市場的市占率達 99%。

趨勢二：AI 代理，將成為下一波主戰場

在對談階段， NVIDIA 網路事業群資深副總裁凱文．戴爾林點出未來 AI 的發展重點在於 AI 推理（訓練過的機器學習模型，能夠進行預測或決策），他指出「2025 是 AI 推理之年。」AI 模型的開發主要分成訓練（training）和推理（inference），過去幾年人們著重於訓練 AI，現在到了讓 AI 能夠直接做出決策的時候，不用再一步一步指引 AI 決策。

比如說過去的 AI 多半是「單次互動」模式，也就是使用者提出一個問題，由 AI 一次性地產出答案，例如請 AI 寫一封請假信、翻譯一句話或幫忙改寫一段內容。

但隨著任務日益複雜，AI 正逐步走向「代理型工作流程（agentic workflow）」——多個 AI 模組彼此協作、分工處理，形成一整套自動化決策與執行的流程。

舉例來說，當你對 AI 說「幫我安排周三下午的會議」，背後可能會啟動語音轉文字模型、行事曆查詢工具、信件撰寫助手等，彼此串接、協同完成任務。這樣的模式大幅提升了 AI 的應用，但同時也帶來一個新挑戰：延遲（latency）成為關鍵瓶頸，考驗 AI 的即時運算能力與效率。

這種轉變帶來效率提升，但也使延遲成為關鍵挑戰，考驗AI的即時運算能力。

從克里斯．柏基與凱文．戴爾林的分享可見，AI 競賽已進入新階段，朝向克里斯．柏基所說的「AI is everywhere」時代邁進，應用場景將更加多元廣泛。

核稿編輯｜陳書榕

延伸閱讀

年銷 2000 億晶片、99 ％ 手機都在用！安謀怎麼在劣勢下打造不被取代的地位？
又一公司市值破兆！ASIC 霸主博通是誰？為何大家會拿它跟輝達比？
加入《經理人》LINE好友，每天學習商管新知