邊緣 AI 下一步怎麼走？高通看好混合 AI、多模態 AI 成新趨勢
人工智慧（AI）浪潮正席捲全球，而邊緣 AI（Edge AI）也逐漸成為推動產業變革的重要力量。高通產品管理資深總監 Paul Torres 在首屆「高通台灣 AI 黑客松」中指出，未來「混合 AI」（Hybrid AI）和「多模態 AI」（Multimodal AI）將成為邊緣 AI 的兩大趨勢。
「事實上，『邊緣 AI』與『雲端 AI』並非二選一的選項，兩者都有各自優勢，也能作為相輔相成的效果。」Torres 認為未來發展目標可能走向「混合 AI」，即雲端、裝置端的 AI 模型協同合作，發揮各自優勢。另隨著應用情境與裝置多樣化，「多模態 AI」根據不同情境連結各種裝置，相輔相成，並提供更即時、更個人化的智慧體驗，也將是一大趨勢。
至於邊緣 AI 為何扮演如此重要的角色，Torres 也點出幾項關鍵優勢。首先是「低延遲」，由於邊緣 AI 是在裝置端運行，適合放在需要低延遲、即時反應的應用；其次是網路「可靠度」，並非所有場景都能隨時連線，必須考慮裝置即使在離線情況下也能獨立運行；第三點是「隱私」，如金融資料或個人敏感資訊，許多使用者更希望這些資料留存在自己的裝置，而不是上傳雲端。
第四點是「個人化」，當個人資料留在自家設備，邊緣 AI 可根據使用者所處的脈絡與情境來調整服務。Torres 表示高通 Sensing Hub 即為一例，能整合多種感測器，理解使用者的位置、習慣的應用程式與行為模式，進而建立專屬 AI 體驗；最後是處理「效率」，有些任務若能直接在裝置端完成，反而比上傳雲端更有效率。雖然大型語言模型仍多在雲端運行，但因成本高昂，也逐漸出現能在裝置端執行的「Local Model」（本地模型），讓效能與成本取得平衡。
邊緣 AI 要生態系共同推動，高通硬體、技術雙支援
由於 AI 進步快速，經常有新的雲端模型問世，但同時也有許多公司在開發能在裝置端運行的小型模型。這也意味將出現更多混合型的解決方案，同時結合雲端與裝置端的優勢。
目前每個人的手機上常需要安裝多個銀行應用程式，且不只有一種銀行帳戶，若要查詢不同帳戶的資訊，這些應用程式必須連回雲端才能取得數據。但在未來，Torres 認為可以透過「AI 代理人」提供協助，直接從雲端抓取並幫忙整合資料，再將整合後的資訊留存在使用者自己的手機上，也是混合式 AI 產生綜效的解決方案。
至於「多模態 AI」（multimodal AI）中的「多模態」，是指每個人同時擁有很多裝置，如手機、電腦、車子或IoT 物聯網裝置，它們都能蒐集個人相關資訊。而多模態 AI 則是透過 AI 依照情境理解使用者需求，進而整合各種裝置與數據，提供更智慧、更貼近個人化的服務。
不過，要發展邊緣 AI，仍需要整個生態系統共同推動。Torres 表示，除了裝置必須具備足夠的硬體能力外，開發人員也扮演關鍵角色，因此高通持續提供創新技術，讓硬體具備更強的運算能力，期盼提供給開發人員運用，作為推動的起點，而這也是舉辦「高通 AI 黑客松」的初衷。
高通 AI 黑客松全球多點舉辦，激發開發人員靈感和創新
高通已經在全球舉辦 AI 黑客松活動，透過旗下 Snapdragon X系列平台帶來同類型最佳的CPU和強大的NPU，並搭配 Qualcomm AI Hub 多元資源，為開發者提供堅實的開發工具與平台。Torres 表示，因為高通有相關技術，希望看到技術實際上的應用以及應用面的創新，並將這個活動更加推廣出去。
高通 AI 黑客松已經陸續在印度、加拿大、美國、韓國等地方舉辦，Torres 笑稱這個活動最有趣的地方在於能看見多元應用。例如，印度的開發人員提出將 AI 應用在 VR 頭戴式裝置上，使用者玩槌球時能即時聽到不同語言的翻譯，因為印度有多樣方言，並套用名人等不同聲音；韓國的開發人員則出現運用裝置端 AI 處理郵件的案例，透過高通 NPU 進行郵件摘要、分類，甚至整合聊天機器人來自動回覆郵件；而這次台灣的冠軍隊伍，則運用 AI 協助使用者對龐雜檔案迅速進行分類，大幅縮短使用者尋找正確檔案的時間，相當具有創意。
Torres 表示，高通 AI 黑客松的核心精神在於，讓開發人員面對真實世界時遇到的問題並嘗試解決，雖然 24 小時的挑戰時間有限，許多作品還需要後續的修正與優化，但高通會持續鼓勵團隊繼續發展，並挑選出最具潛力、最適合商業化的方案給予更多支持。
最後 Torres 也強調，AI 黑客松不只是競賽，更像一個交流與啟發的平台。參賽者透過觀摩其他團隊的解決方案，激發出新的靈感，或者從既有作品延伸出新的應用。例如，一個聊天機器人的原型除了既定功能外，也能改造、延伸到其他具有潛力的領域。這種互相啟發的過程不僅幫助團隊突破思維框架，也加速裝置端 AI 多元應用的出現。
（首圖來源：科技新報）