微軟大動作開發「超智慧」，AI 主管蘇萊曼：若威脅人類將立即喊卡
微軟（Microsoft）消費者 AI 負責人穆斯塔法‧蘇萊曼（Mustafa Suleyman）近日在接受彭博專訪時宣示，公司正致力於開發「與人類利益保持一致」的超智慧（Superintelligence），並明確承諾，若該技術對人類構成威脅或有失控風險，將立即停止研發。他強調，這種將安全置於首位的觀點理應是業界共識，但在當前不計代價追求算力的環境下，這個立場卻顯得相當「新穎」。
這項宣示標誌著微軟戰略的重大轉折，其背後關鍵在於微軟與 OpenAI 合作關係的重塑。蘇萊曼透露，自去年初微軟收購其新創公司 Inflection AI 以來，他的工作其實長期受到合約限制。為了換取 OpenAI 最新模型的存取權，微軟曾同意放棄自行開發通用人工智慧（AGI）及超智慧的權利，並負責為 OpenAI 建置資料中心。
然而，隨著去年 10 月協議調整，局面發生變化。蘇萊曼指出，由於 OpenAI 轉向軟銀（SoftBank）、甲骨文（Oracle）等合作夥伴尋求建設超出微軟承諾規模的基礎設施，做為交換條件，微軟重新拿回了自主開發頂尖 AI 的權利。蘇萊曼表示，這讓微軟從過去 18 個月的「通用型 AI 開發商」，正式轉向研究有潛力在所有任務上超越人類表現的技術與方法論。
儘管 OpenAI 與 Anthropic 等競爭對手也宣稱以造福人類為目標，蘇萊曼雖認為微軟的途徑獨特，但也未對同業進行批判，表示目前尚未看到大規模傷害的證據。但他坦言，關於超智慧的討論目前仍偏向學術層面。以微軟現有的 Copilot 為例，其「代理型」功能仍在試驗階段，未必每次都能正確執行任務；但他對未來充滿信心，形容當這些功能運作完美時，「將是你見過最神奇的事物」。
Microsoft Executive Vows to Halt AI Work If It Imperils Humanity
Microsoft AI boss promises development halt if tech poses existential risk
（首圖來源：Flickr/Collision Conf CC BY 2.0）