以養虎為喻 AI教父辛頓警告：人類要馴服AI才不會反被殺掉
圖靈獎得主、諾貝爾獎得主，被譽為「AI 教父」的辛頓（Geoffrey Hinton）於 2025 世界人工智慧大會（WAIC）發表了備受矚目的主題演講，他以養虎為比喻，認為人類要找到馴服辦法，才不會被 AI 消滅，因為人類無法擺脫 AI。
辛頓在演講中指出，人類理解語言的方式與大型語言模型（LLM）有著驚人的相似之處，這也意味著人類本身就像大型語言模型一樣，會產生「幻覺」，尤其是在回憶久遠事件時，經常會無意識地編造細節。
然而，他強調大型語言模型與人類之間存在一個關鍵且優越的差異：電腦科學的基本原則是將軟體與硬體分離。這一原則使得程式碼中的知識得以「不朽」，無論硬體如何更迭，相同的計算都能在新硬體上運行。
辛頓進一步闡釋了「不朽的計算機」概念：「如果你能把程式保存在某處，或者能把神經網路的權重存儲在某個地方，那麼你現在就可以銷毀運行神經網絡的所有硬體。只要你有權重存儲在某個地方，你現在就可以建造新的硬體，並且因為計算是數字化的，你可以在這些新硬體上運行完全相同的計算。」
他同時提到，數位計算需要大量能量，但其優勢在於能讓擁有相同權重的智慧體（Agent）輕鬆共享從不同經驗中學習到的知識，而生物計算雖然能量消耗較少，但共享學習成果卻極為困難。他預言，若能源成本大幅降低，數位計算將展現出更強大的優勢。
然而，辛頓對 AI 的未來發展表達了深切的憂慮。他指出，幾乎所有專家都相信人類將製造出比自身更聰明的 AI。「我們如此習慣於作為頂尖智能，以至於很多人難以想像一個 AI 比我們更聰明的世界會是什麼樣子。」他以雞的生存體驗為例，警示人類應思考當不再是頂級智能時的處境。
辛頓解釋說，人類正在創造 AI 智慧體，因為它們在完成任務方面更為出色。這些 AI 智慧體已經具備創造自身子目標的能力。一旦擁有這種能力，智慧體將會產生兩個基本需求：一是生存，以確保能夠實現人類賦予它們的目標；二是獲取更多控制權，同樣是為了更好地達成目標。這意味著人類將會擁有渴望生存並尋求更多控制權的智慧體。
他悲觀地預測：「我們將無法簡單地關閉它們，它們會發現操縱使用它們的人非常容易，我們將像 3 歲小孩，而它們將像成年人。所以我認為那種當它們比我們更聰明時，我們就能讓某人把它們關掉的想法是不切實際的，它們將能夠操縱我們，並說服那個關掉它們的人應該做的人。」
辛頓將人類目前的處境比作飼養小老虎當寵物：小老虎雖然可愛，但長大後可能會對人類構成威脅。他強調，飼養小老虎通常是個壞主意，人類只有兩個選擇：設法訓練它永遠不想吃掉你，或者擺脫它。
然而對於 AI，人類並沒有「擺脫它」的選項，因為 AI 在醫療保健、教育、氣候變遷、新材料等諸多領域都極具潛力，幾乎能為所有行業提供幫助並顯著提升人類生產力。
因此，辛頓強調，如果人類想要生存，就必須找到訓練 AI 的方法，確保 AI 不會消滅人類。
辛頓指出，目前沒有一個國家希望 AI 接管世界，每個國家都希望人類繼續保持掌控權。他認為，如果任何一個國家找到了防止 AI 接管的方法，他們會非常樂意與所有其他國家分享。
基於此，他建議建立一個由 AI 安全研究所和協會組成的國際共同體，致力於研發訓練 AI 向善的技術。他強調，訓練 AI 向善的技術與訓練 AI 變得更聰明的技術在某種程度上是分離的，目標是讓一個真正聰明的 AI 即使比大多數人聰明得多，也願意扮演人類的輔助角色，而非接管世界。
辛頓最後總結道：「我們目前根本不知道如何做到這一點，長遠來看，這是人類面臨的最重要的問題。好消息是，這是一個所有國家都應該能夠合作解決的問題。」這番話為 AI 的未來發展指明了方向，也呼籲全球共同努力，確保 AI 技術的發展造福人類而非帶來潛在威脅。
更多鉅亨報導
•AI引爆熱潮！美台股齊迎新一波成長動能 法人傳授AI選股4招
•阿里巴巴發布超強「AI眼鏡」！夸克AI加持、淘寶支付寶都能用
留言 0