OpenAI內部抱怨輝達晶片推理速度慢　去年起積極尋求替代方案

路透社2日引述8位知情人士說法，OpenAI對輝達一些最新AI晶片並不滿意，並且自去年以來一直在尋求替代方案。不過，輝達執行長黃仁勳1月31日曾駁斥有關輝達與OpenAI關係緊張的報導，認為相關消息「毫無根據」。

輝達晶片不夠力？OpenAI為何抱怨？

7位消息人士表示，OpenAI對於輝達硬體在某些特定問題上為ChatGPT使用者產生回應的速度並不滿意，例如軟體開發以及AI與其他軟體進行溝通等應用場景等。其中1位消息人士向路透社透露，OpenAI需要新的硬體，最終以滿足其未來約10%的推理計算需求。

2位消息人士表示，OpenAI曾討論與包括Cerebras和Gro在內的新創公司合作，以提供能加快推理速度的晶片，但其中1位消息人士向路透社透露，輝達與Groq簽訂了一項價值200億美元（約6,375億新台幣）的授權協議，這項合作使OpenAI與Groq的談判被迫中止。

晶片產業高層主管表示，輝達決定迅速收購Groq一事，被視為是在快速變化的AI產業中，強化自身技術版圖與產品組合並提升競爭力的布局。輝達在聲明中指出，Groq的智慧財產與輝達的產品發展路線圖具有高度互補性。

推理速度不夠迅速　OpenAI尋求其他來源

1位消息人士補充，在OpenAI內部，推理速度不夠迅速的問題，在其用於生成電腦程式碼的產品「Codex」上特別明顯。另1位消息人士則稱，OpenAI員工將Codex的部分缺陷歸咎於基於輝達GPU的硬體。

知情人士表示，隨著OpenAI明確表達對輝達技術的保留態度後，輝達接洽了多家以研發靜態隨機存取記憶體（SRAM）晶片為主的公司，包括Cerebras和Groq，商談潛在的收購可能性。Cerebras拒絕了收購提議，並在上個月與 OpenAI達成一項商業合作協議。Cerebras對此拒絕置評。

知情人士透露，Groq曾與OpenAI就提供運算能力進行談判，並吸引了投資人關注，計劃以約140億美元（約4,463億新台幣）的估值為其註資。Groq拒絕置評。

不過消息來源表示，到12月時，輝達與Groq達成了一項非獨占的全額現金授權協議，雖然該協議仍允許其他公司授權使用Groq的技術，但Groq現在專注於銷售雲端軟體，因為輝達已挖走了Groq的晶片設計師。

輝達1月31日曾在一份聲明表示，已計畫投資OpenAI，「客戶繼續選擇輝達進行推理，是因為我們能夠大規模地提供最佳性能和總體擁有成本（TCO，指包括購買價格、維持運行、能源消耗、升級管理等所有成本）。」

OpenAI的1位發言人在另一份聲明中表示，該公司依靠輝達為其絕大多數推理運算機群提供動力，其提供的產品物超所值。