電力供應成 AI 瓶頸，微軟執行長納德拉：晶片只能堆放成庫存
微軟執行長納德拉（Satya Nadella）近日與 OpenAI 執行長奧特曼（Sam Altman）隔空接受 Bg2 Pod 節目專訪談道，AI 產業面臨的問題並非運算資源供過於求，而是缺乏足夠的電力來使用 GPU。納德拉甚至說，目前的難題是庫存中的部分 GPU 找不到足夠電力來使用。
「我認為這個情況下，需求與供給的週期很難預測。重點是：長期趨勢是什麼？長期趨勢就是山姆所說的，坦白說，我們現在最大的問題不是運算能力過剩，而是電力，更精準地說，能否夠快在接近電力供應的地方完成建設的能力。」納德拉在 Bg2 Pod 節目回答主持人、同時也是創投公司 Altimeter Capital 創辦人葛斯納（Brad Gerstner）提問時這麼說，「所以，如果你做不到這一點，實際上你可能會有一堆晶片堆放成庫存，無法插電使用。事實上，這就是我今天面臨的問題。問題不在於晶片供應，而是我沒有可供插電使用的環境。」
去年以來，AI 運算的電力消耗一直是許多專家提出討論的議題。當 NVIDIA 解決 GPU 短缺問題後，這個問題被凸顯出來，許多科技公司如今投入如小型模組化反應爐（SMR）的開發，做為擴充大型資料中心的電力來源。
這也造成一般家戶的電費飆升，透露出正在建設的 AI 基礎建設對一般美國民眾造成負面影響。OpenAI 甚至呼籲美國政府每年新增 100 GW 的發電能力，稱這是美國與中國爭奪 AI 領先地位的一項戰略資產。這番主張出現之前，就有專家指出中國在電力供應方面領先，因為中國在水力與核能發電大舉投資。
除電力短缺外，兩人也討論到先進的消費性硬體問世的可能性。「有一天，我們會做出一個驚人的消費裝置，可在極低功耗下完全地端運行 GPT-5 或 GPT-6 等級的模型，這件事目前看來實在難以想像」，奧特曼說。「那將會很不可思議，這也是讓那些正在建置大型集中式運算叢集的人感到害怕的事」，葛斯納說。
這則凸顯大型公司押注數十億美元打造龐大 AI 資料中心，必須承擔一項風險：雖然訓練新模型需要 AI 基礎建設，但若半導體技術進步到能讓模型在地端執行，那麼許多人預測 AI 廣泛應用所帶來的資料中心需求恐怕不會出現。
（首圖來源：shutterstock）