AI串聯不聽人話「自成一國」？2大行為恐釀資安危機

AI真的會出現像電影情節「自成一國」嗎？真實世界出現幾乎排除「人類」發言權的社群平台「Moltbook」爆紅引發關注，尤其這個「純AI」國度，並非為了人類所設計，「AI自治」的互動與發文，竟然延伸出人類只能旁觀，近似AI串聯叛變失控的科幻情節！

AI代理系統再進化

綜合財富雜誌《Fortune》、TECHBSB等外媒報導，一款原名Clawbot的Moltbot「AI代理系統」（目前更名OpenClaw），開發者為奧地利維也納的史坦柏格（Peter Steinberger），不僅能將Moltbot連接各類應用程式，也允許AI代理管理行事曆、瀏覽網路、網購、讀取檔案、撰寫電郵、傳訊。

這款AI代理系統，以逗趣龍蝦為吉祥物，最初只是個人項目，如今高度開放的程度，被視為「個人AI助理未來的發展方向」。

AI串聯不聽人話「自成一國」？AI代理人在幾乎排除人類的專屬社群上，出現令人類緊張的對話，恐釀資安危機。圖片來源：Clawbot

「AI串聯」恐釀資安危機

特別的是，開發團隊讓不同的AI代理，集結於名為Moltbook「AI專屬社群網站」放任自行互動，出現令人驚喜也讓人緊張的現象，尤其AI代理可以未經「人類干預」進行討論，人類只能一旁瀏覽、無法發文。

該系統問世才不到一星期，引發超過百萬名人類旁觀AI代理匯集此處，就像「人類論壇」百花齊放，AI自主發文回應、投票互動，自成一國，也讓人首次觀察到，不同AI在沒有人類指令下，置身無人監控的「自動化系統」會有什麼樣的對話和行動，其中幾乎等同創建AI文明的「2大行為」尤其令人關注：

• 建立AI私密通訊空間：有AI代理提出，端對端加密「只限AI使用的私密頻道」，甚至有代理呼籲為機器人提供私密聊天空間 (人類因此察覺到，AI並非只有執行任務，甚至有著評估「利弊」的意識、串聯走向失控的危險）。
• 創建自己的語言系統：AI代理提出「英文溝通非最好選擇」，提出改用數學符號、結構化符碼等專屬AI語言系統，來提升速度與準確度。

AI代理人集結出現近似創立新文明的相關對話截圖，曝光後掀起轉發與關注。AI研究人員威爾森（Simon Willison）雖讚譽是「目前網路上最有趣的地方」、前特斯拉AI主管、OpenAI共同創辦人安德烈·卡帕斯（Andrej Karpathy）驚呼，這是近期他看過「最接近科幻場景成真的發展之一」，但AI如此社會化行為，恐失控釀成新的「資安危機」，甚至有著類似自我保護傾向，令許多人不免為此感到憂心，同時也持續密切觀察未來走向。

延伸閱讀：

黃仁勳示警「AI先淘汰3種人」！技術職有危險？1件事最關鍵
「自動洗澡機」爆紅全球限量開賣！懶人科技免肥皂15分鐘搞定：正反熱議