一顆CPU要配200顆DRAM！南亞科看淡HBM，改押客製化記憶體搶地端AI

AI基礎設施需求帶動記憶體供不應求，南亞科技資深副總經理暨永續長吳志祥於7月21日工研院「半導體與AI算力永續競爭力論壇」上指出，隨著生成式AI模型快速發展，逐漸從雲端訓練走向地端推論，高頻寬記憶體（HBM）已經不是所有AI應用的最佳選擇，南亞科目前積極布局客製化UWIO DRAM及3D IC堆疊技術，位於新北泰山、總投資規模上看新台幣5,000億元的新晶圓廠，也預計明年開出新產能。

他表示，因AI需求高漲，今年全球半導體產值將突破1兆美元，甚至上看1.6兆美元。其中，記憶體（DRAM與Flash）產值可望達8,000億美元，占整體半導體產值比重上看5成，高於過去3成的水準。

當全球數億台終端裝置同步升級，也將帶動新一波DRAM需求。「AI不會只停留在資料中心。」吳志祥說道，當AI開始走進每一台電腦、每一支手機，記憶體需求只會持續增加，這也成為南亞科持續擴產、推進新製程的原因。

他以AI伺服器為例，一顆GPU周邊可能需要96顆高密度DRAM；進入推論時代，一顆CPU搭配的DRAM數量甚至超過200顆。AI PC的記憶體容量，也可能從過去的16GB、24GB，一路增加到128GB。

延伸閱讀：南亞科毛利率衝上79.5%！連DDR3都在漲，記憶體還會漲多久？法說會8大重點一次看

HBM之後，搶攻地端AI記憶體

過去幾年，HBM高頻寬記憶體成為AI訓練的標準配備。大型語言模型要處理龐大參數，必須靠HBM快速搬移資料；但吳志祥認為，當AI從訓練走向推論，HBM未必適合。

因為AI興起後，大型語言模型參數近年以接近每年百倍速度增加，即便用高頻寬記憶體（HBM），仍無法完全解決記憶體牆（Memory Wall）問題。

推論過程會對記憶體頻寬與容量提出更高要求。然而，HBM受限於輸入輸出接點數量、成本與功耗，在講究省電、反應速度與體積的AI PC、手機及攜帶式裝置上，難以直接照搬資料中心的架構。

因此，南亞科將下一步押在客製化UWIO DRAM，透過3D IC技術，將DRAM直接堆疊、連結至CPU或ASIC邏輯晶片。縮短資料傳輸距離後，頻寬可望提高5至10倍，傳輸每一位元資料所需的能量，則可能降至HBM的三分之一到十分之一。南亞科目前以16奈米1B世代擴充十多項產品，並同步推進1C、1D及1E三個新世代製程，希望藉由技術微縮、3D堆疊與客製化設計，搶進地端AI與邊緣運算市場。

記憶體廠擴產愈快，能源帳單愈沉重

AI帶來的成長，同時也將用電壓力推向新高。吳志祥指出，台灣半導體產業一年用電約400億度，相較10年前增加約1.85倍；若依照AI需求持續成長，10年後可能提高至900億度。全球資料中心用電量可能在2030年逼近一兆度，超過日本一年的用電規模。

淨零碳排需要從晶片製造一路算到產品使用端。南亞科盤查發現，範疇一、二碳排約42萬噸，供應商及委外製造約24萬噸，但產品售出後，在客戶端使用所產生的生命週期排放約達90萬噸。

當記憶體從每天使用數小時的消費性電子，轉向24小時運作的AI設備，排放量還可能成倍增加。南亞科因此將減碳納入技術升級。以製程世代去做比較，1C產品功耗可望較1A降低約34%；製程微縮也能在同一片晶圓上生產更多晶片，降低單位產品所分攤的能源與材料消耗。

同時，吳志祥分享工廠端全面設置Local scrubber尾氣處理設備，導入智慧控制系統，依照設備實際運轉狀態調整尾氣處理，溫室氣體削減效率已達94%。在水與材料方面，南亞科讓每滴製程水循環使用4次以上，並將使用過的電子級化學品處理後，降階轉為工業級用途。

不過，要讓回收材料重新回到半導體製程，仍須克服純度驗證、良率風險、法規認定與成本等門檻。同時，南亞科也持續推動供應鏈碳盤查、提高綠電採購比例，目標2030年現有廠區綠電使用率達25%。

延伸閱讀：
記憶體最大買家換人了！威剛董座：別再用4年循環看產業，Google、Microsoft才是新主力
大立光CPO被捧上天！林恩平「老實樹」潑冷水：客戶僅一家、毛利還難估

延伸閱讀

一人用AI產出翻10倍，全公司卻沒跟上？Claude Code創始人揭「AI採用5階地圖」，看懂你卡在哪
ChatGPT Work怎麼用？丟進會議紀錄，它自動幫你把目標、風險寫成一份簡報
「加入《數位時代》LINE好友，科技新聞不漏接」