「AI大模型六小虎」之一智譜與華為CANN計算架構深度適配

內地「大模型六小虎」之一的人工智能(AI)初創智譜在社交媒體發文，稱已與華為針對AI場景推出的異構計算架構CANN完成深度適配。

智譜表示，通過CANN(Compute Architecture for Neural Network)工具鏈，公司能夠實現智譜GLM端側模型高效部署至基於華為麒麟晶片的端側設備，支持在個人電腦場景中快速落地。

該公司指，是次合作標誌國產大模型與計算架構在端雲協同方向實現關鍵突破，國產AI生態正加快邁入深度融合階段。

就實現途徑，智譜指，公司在雲側昇騰環境中開發Ascend C自定義算子，完成模型微調與量化，並借助CANN工具鏈實現該模型的一步直轉，算子代碼直接復用。這種創新模式大幅降低端雲模型、算子適配工作量，也驗證CANN體系的開放性及研發效率。

華為之前宣布將全面開源CANN。此舉正值其進一步加快推廣其昇騰晶片生態系統，以打造一個能夠媲美AI晶片巨頭英偉達(Nvidia)的開發生態。華為指，CANN的全面開源將支持用戶自主的深度挖潛及自定義開發，加速開發者創新步伐，讓昇騰更好用、更易用。

在AI基礎軟硬件平台的搭建中，CANN作為硬件使能，其作用是連接上層的AI框架與底層的華為昇騰AI處理器，是充分釋放處理器極致性能的關鍵。

東網網站 : https://on.cc/東網Facebook專頁 : https://www.facebook.com/onccnews/