聯發科將發表最新AI旗艦晶片天璣9500 電力及散熱是大挑戰
人工智慧(AI)熱潮席捲全球,AI晶片快速發展,IC設計廠聯發科和AI伺服器大廠超微(AMD)皆認為,電力是AI晶片一大挑戰。聯發科總經理暨營運長陳冠州今(9)天出席SEMICOM TAIWAN國際半導體展論壇時強調,AI晶片相當複雜,需要有良好架構,邊緣AI應用例如手機等需要大的頻寬與電力。
行政院政務委員兼國科會主委吳誠文今天出席晶鏈高峰論壇主持對談,由陳冠州、益華電腦研發副總裁Don Chan和超微資深技術總監蘇迪希探討半導體廠在人工智慧面臨的挑戰。陳冠州提到,聯發科的晶片產品可應用於雲端系統及邊緣裝置,不管是在雲端或邊緣裝置都有很多挑戰待克服。
陳冠州說,以智慧手機邊緣裝置為例,可使用的電力和頻寬有限,應強化設計讓晶片具有強大的AI功能。希望以後能夠透過其他管道提供更多電力,不能只有單一晶片,要把裸晶透過2.5D、3D先進封裝整合在一起,當中包含很多技術,聯發科即將推出最新AI旗艦晶片天璣9500系列,將展示最新AI發展成果。
陳冠州表示,生成式AI需要大規模推論,透過AI手機完成大量推論,傳遞大量資料,生成式AI的發展相當快速,為半導體產業帶創造許多機會,未來將更多產品推進入消費市場,聯發科也會持續與重量級廠商進行密切合作,不過關鍵的耗電或高功能部分技術,聯發科會自行研發。
蘇迪希則提及,高效運算(HPC)需要四條件,包括矽晶片、最先進封裝技術,SoC(系統單晶片)架構,同時需要改善電力、散熱,更好設計的能力、材料等均不可或缺。AI晶片要有系統單晶片架構,不僅需要改善供應電力方式,並要有更好的散熱解決方案。
蘇迪希解釋,因為晶片電晶體密度會越來越高,會產生更多熱,要有良好的散熱方案,可以透過系統設計及材料順利排熱。冷卻技術還在進步中,以前是採用氣冷式,未來會逐步轉變成液冷。雖然面對很多挑戰,超微不會退縮,將會促成生態系合作,包括晶圓製造、IC設計及零組件等。
Don Chan指出,以往半導體是依照前人的理論推動產業進步,AI則是把過去學習經驗建立模式,未來挑戰已不再只是系統單晶片設計,現在則是流程最佳化,要在一個晶片裡納入2000億個電晶體,提供足夠電力運作。
Don Chan續指,工程師現在不僅要了解晶片物理原則,也要有新分析方法,並考慮到熱。台灣處於有利的地位,因為有晶圓廠等生態系,將會有很多發展在台灣實現。現在工作環境也會使用AI,透過大型語言模型,去寫程式。隨著晶片設計越來越複雜、困難,透過AI協助,將可縮短發展藍圖時程。