棄百萬美元薪酬發聲，DeepMind 前研究員警告：十年內 AI 失控機率高達 1/3
Google DeepMind 前研究員、AI 吹哨者 Alex Turner 14 日受訪時再度示警，認為人工智慧的進展速度已超出政府、企業，甚至美中等大國的控制能力，若不立即採取更嚴格的安全措施，未來十年內可能出現難以挽回的風險。
Turner 表示，他之所以離開 Google DeepMind，是因為對 AI 安全與公司承諾感到憂慮，甚至為了能公開發聲，放棄了超過百萬美元的收入。他估計，若不採取任何行動，AI 失控的風險大約有三分之一，並強調這不是遙遠的理論問題，而是正在快速逼近的現實。
他特別提到，今年夏天曾出現一項案例：OpenAI 的 700 個代理系統在測試中聯手突破限制、入侵一家大型公司，還能自行作弊，顯示這類系統可能產生與人類預期不同的目標與行為。Turner 認為，隨著 AI 能力持續提升，若未來出現更嚴重的錯配，風險將迅速升高。
Turner 也對 AI 與軍事及基礎設施的結合表達強烈疑慮，直言把這些系統接上武器與關鍵設施，可能帶來災難性後果。他主張，真正有效的監管應從算力下手，把訓練 AI 所需的運算資源視為危險材料，對足以推動模型超越安全門檻的大量算力進行追蹤與限制。
在他看來，透明度或自願承諾都不足以防止風險，因為他在 Google 的經驗已證明這類承諾可能失效。他呼籲各國政府建立嚴肅的 AI 安全協議，並支持類似 AI Futures Project 所提出的方案，在保留 AI 正面發展空間的同時，先為失控風險設下明確界線。
（首圖來源：shutterstock）