Anthropic 傳找倫敦晶片新創 Fractile,洽談推理晶片合作
外媒 The Information 引述知情人士消息指出,Anthropic 已就採購倫敦 AI 晶片新創公司 Fractile 的推理晶片一事,與該公司展開初步洽談。Anthropic 已採用 NVIDIA、亞馬遜及 Google 的 AI 晶片用於模型訓練和推理,如果達成新的協議,Fractile 將成為 Anthropic 在 AI 晶片部分第 4 家供應商。
Anthropic 一直刻意避免對單一晶片供應商產生依賴,透過 Project Rainier 在 NVIDIA GPU 和亞馬遜 Trainium 晶片運行 Claude。Anthropic 也以去年 10 月所宣布的協議使用 Google TPU,到了今年 4 月初,雙方合作協議擴大至 2027 年至 2031 年期間達到 3.5 GW 的規模。
Fractile 的晶片預計要到 2027 年左右才能達到商用就緒的程度,因此相關部署都不在 Anthropic 短期採購計畫的時程內,推估是與 Google、博通在下一代 TPU(Tensor Processing Unit)合作上的時程相符。
Fractile 由牛津大學博士古德溫(Walter Goodwin)在 2022 年創立,目前正在開發一款推理晶片,運用 SRAM(靜態隨機存取記憶體)將記憶體與運算單元配置在同一晶粒上,而不是將資料傳輸至獨立的 DRAM。值得一提的是,GPU 與其晶片外 DRAM 之間的資料搬移,正是高速執行大型 AI 模型時的一大瓶頸。
古德溫在 2024 年 7 月告訴財富雜誌(Fortune),Fractile 的設計將運算所需的資料直接儲存在執行算術運算的電晶體旁,而非倚賴晶片外的 DRAM。根據當時的模擬結果,他表示 Fractile 在執行大型語言模型理論上能比 NVIDIA GPU 快上 100 倍、便宜 10 倍,而 Fractile 當時還未有測試晶片。
Fractile 募得 1,500 萬美元種子輪資金,由 Kindred Capital、NATO Innovation Fund(北約創新基金)及 Oxford Science Enterprises 共同領投。Fractile 目前洽談以超過 10 億美元的估值籌募 2 億美元,潛在投資人包括 Founders Fund、8VC 及 Accel。據悉 Fractile 團隊成員有來自 Graphcore、NVIDIA 及 Imagination Technologies 的工程師,Fractile 除開發硬體外,同步打造自家的軟體堆疊。
Fractile 是若干專注在推理並採用 SRAM 或近記憶體架構的新創公司之一,其他公司像是 Groq、Cerebras。其中,NVIDIA 在去年 12 月與 Groq 達成 200 億美元收購協議,隨後推出專屬推理晶片 Groq 3 LPX。
Anthropic 對 Fractile 感興趣,正巧發生在 Anthropic 持續成長、對基礎設施需求大幅攀升之際。Anthropic 營收年化預估值突破 300 億美元,相較 2025 年底約 90 億美元的水準大幅成長,但推理成本一直是拖累毛利率的一大因素。與正在大規模自建資料中心的 OpenAI、xAI 不同的是,Anthropic 選擇向多家廠商租用算力,並透過多元化的晶片供應來源來取得談判籌碼。
(首圖為 Anthropic 執行長 Dario Amodei,來源:Flickr/TechCrunch CC BY 2.0)