「如果哆啦 A 夢需要連接網路才能運作,那麼斷網時,大雄的朋友就變成一個無用的鐵罐,」耐能智慧創辦人暨執行長劉峻誠的辦公室擺滿哆啦 A 夢的模型,這不僅是童年的記憶,更是他技術願景的象徵:讓 AI 不受雲端限制,直接在終端設備上智慧運作,也就是 邊緣 AI(edge AI) 。
AI 技術近年大爆發,大家都在談模型多強、應用多快,但對 AI 模型而言,一張照片辨識、一段語音理解,都是數百萬次的計算堆疊。你要它反應快、準確高、還要即時回應,傳統的 CPU 或 GPU 就開始吃不消。這也是為什麼大部分 AI 還是得靠雲端跑,但就得犧牲隱私、拉高成本。
從產業戰略角度看,AI 的關鍵瓶頸已從模型訓練,轉向落地應用的成本與速度。能否擺脫雲端依賴,將決定 AI 是否能像智慧型手機一樣普及到每個角落。這正是 NPU(神經網路處理器,neural processing unit) 崛起的戰略價值,它不只是一顆晶片,更是讓 AI「真正普及」的產業革命。
而定義這項技術的,是來自台灣的耐能智慧。
看準邊緣 AI 前景,定義 NPU
2015 年,當 AI 還是冷門領域時,劉峻誠創立了耐能智慧。當年的主流 AI 模型,都依賴龐大的伺服器和高功耗的 GPU。劉峻誠認為,AI 模型既然已經是未來的運算主角,勢必也需要搭配部署在邊緣、即時反應、低功耗的硬體架構,也就是他所定義的處理器 NPU 來運算。
起初是有個老闆希望劉峻誠幫他找團隊支援案子,結果無法取得足夠的資金和人力,他不得不自己承擔責任,便把 NPU 當作創業題。
然而公司很快地陷入危機,「最慘的時候剩 2 個人,被追債 500 萬美金,」劉峻誠自己都估計公司有「99% 的機率會倒」。在絕境中,劉峻誠聯繫人生各階段的朋友,「有些同學接到電話就說,我知道你要幹嘛,叫我們辭職去你要倒的公司、不拿薪水,我們沒那麼笨。」
沒想到還是有一些人願意辭去高通、聯發科的高薪工作加入。「連別人都這麼相信你,那你更不能害怕、更不能膽怯,」面對這樣的信任與支持,劉峻誠不再只是為自己而戰。「這一群人是以前學生時代跟你一起在球場上揮灑汗水,甚至你還去幫他追女朋友,很多人真的是你人生的一部分。我生命中最好的同學都在這裡。」
面對科技巨頭競爭,耐能靠什麼生存?關鍵在於差異化定位和敏捷開發。公司採用 24 小時不間斷開發模式,「美國團隊睡覺時,台灣團隊接棒;台灣下班後,美國團隊又開始工作,」這使開發速度超過同業 2~3 倍。
「沒有傘,你在下雨的時候就只能跑得比人家快。」
劉峻誠形容耐能的生存哲學,也正是這種壓力,成為公司研發速度超前的關鍵。
挑戰雲端霸權,讓 AI 應用充滿生活
劉峻誠的核心發明是「可重構式架構」,這一概念獲得 IEEE 達林頓獎 (IEEE Darlington Award,獎勵在晶片設計、半導體電路創新等領域的世界級貢獻,每年全球只有一篇論文獲選) 等國際認可。「我們做了一堆『腦細胞』,需要時把它們像黏土一樣堆成不同形狀,執行不同 AI 任務,」他解釋,「這種設計讓一顆晶片可以靈活應對多種場景,同時保持極高效率。」
耐能的技術在 3 個維度具備競爭優勢,正好切中邊緣 AI 的核心需求:省電、輕巧、彈性高。
首先,在電力效率上,他們的晶片比傳統 GPU 省電 20 到 30 倍,適合部署在電源有限的裝置上;其次,晶片面積比傳統設計小了超過 80%,能更輕鬆嵌入手機、監視器等小型裝置;最後,他們不像傳統 ASIC(客製化晶片)那樣「寫死」模型,設計上保留彈性,可以因應 AI 模型更新,直接在原有硬體上升級,不需重新開發。
那耐能的晶片如何實現邊緣 AI 的場景?2017 年,耐能推出全球首款專為 AI 設計的 NPU 晶片,應用於格力電器的智慧空調中。賣場的空調能根據偵測到的人數調整模式,人多時進入強力模式;人少時自動省電。
又例如在安控層面,能讓攝影機在不連網情況下,也能識別異常行為,既保護隱私又提高效率;或是在智慧水表應用中,耐能的 AI 不只收集數據,還能識別異常模式,「台灣約 30% 的水在輸送過程中流失,」劉峻誠解釋,而在水表中設置的 AI 能發現這些微小漏水點,節省大量資源。
在商業模式上,耐能採取多元策略,不同於大多數晶片設計公司。他們不只賣晶片,還提供完整解決方案和 IP 授權,劉峻誠解釋,「軟體團隊比晶片團隊還大,比例約 4:1。」這種模式類似安謀(ARM)結合輝達的混合策略,既賺取硬體利潤,又透過技術授權擴大市場滲透。
耐能的產品已應用於 4 大領域:智慧家居、安控、車用和伺服器,公司已與多家全球頂級 ODM/OEM 廠商合作,產品從智慧家電到車載系統,從安防監控到筆記型電腦。營收 70% 來自海外,主要分布在日本、韓國和美國。在韓國市場,已成為安控 AI 晶片的主要供應商,韓華、LG 等大廠都是耐能的客戶。
不只做 NPU 晶片,更打造 AI 時代的「教科書」
耐能不僅傳播知識,也奠定在產學界的權威地位。劉峻誠發明了 NPU 的概念,並應邀到清大、交大、成大教書。為了教課方便,他將上課講義彙整後出版成教科書,竟意外打響名號,國內外頂尖學府都紛紛作為指定教材,包含普林斯頓、UCLA 等,書商開玩笑跟他說「銷量比雞排妹的寫真集還好!」同時也被評為 AI 領域全球最有影響力的書籍第 6 名。
隨後,國際知名出版社注意到這本暢銷書,將它正式出版並推向全球市場。隨著需求增加,劉峻誠又陸續編寫了大學版、高中版、甚至國小國中版本,形成一套完整的 AI 教育系統。
劉峻誠回憶,「5、6 歲時,我拉著弟弟撿木箱,裝了簡單馬達,嘗試做出哆啦 A 夢,」如今,這個童年夢想正因為自己而加速實現,耐能的 NPU 能讓機器人,不依賴外部指令(雲端),直接理解並回應人類需求。「我們希望 AI 不再是遙遠的、抽象的概念,而是能成為每個人身邊的好朋友。」
核稿編輯:王宥筑
延伸閱讀
「邊緣 AI」是什麼?DeepSeek 崛起,為何帶動商機大爆發?
特斯拉、輝達領跑,台廠也搶進的市場!「人形機器人」為何是下一個技術風口?
加入《經理人》LINE好友,每天學習商管新知