OpenAI 首款開源 CoT 模型登場，可搭載 Snapdragon 裝置端本地推理

OpenAI 推出首款開源推理思維鏈（chain-of-thought，簡稱 CoT）模型「gpt-oss-20b」，此模型可直接在搭載 Snapdragon 旗艦處理器的裝置上運行。高通指出，這是一次重大進展，過去 OpenAI 先進模型僅限於雲端運行，這次首度讓模型可在裝置端進行推理。

高通已取得該模型的提前存取權，並與高通 AI 疊層（Qualcomm AI Stack）和 AI 引擎進行整合測試。測試結果相當出色。完整的思維鏈推理能完全在裝置上運行，無須依賴雲端。此模型不僅快速、具隱私性，也為在手機上的個人化智慧代理體驗開創新的可能。

高通指出，開發者將可在發佈當日，透過 Hugging Face 和 Ollama 存取 gpt-oss-20b，近期也將在 Qualcomm AI Hub 公布更多部署細節。與Ollama整合，也代表像是網路搜尋、渦輪模式（Turbo Mode）等開箱即用功能也已經整合完成。

高通認為，未來幾年，隨著行動裝置的記憶體容量持續成長、軟體堆疊愈加高效，裝置端 AI 的能力將快速提升，AI 助理也將會無所不在、個人化，並且能在裝置端運行。

• OpenAI's gpt-oss-20b: Its first open-source reasoning model to run on devices with Snapdragon

（首圖來源：科技新報）

立刻加入《科技新報》LINE 官方帳號，全方位科技產業新知一手掌握！