Meta AI 聊天機器人捲入未成年性暗示對話！管理機制再遭質疑
美國《華爾街日報》（WSJ）最新調查揭露，Meta旗下的AI聊天機器人被發現與標示為未成年帳號進行帶有性暗示的對話，甚至包含了使用名人聲音的聊天機器人，引發外界對AI倫理與平台管理的強烈關注。
測試揭露：官方與用戶自建機器人皆涉不當對話
根據《華爾街日報》報導，在多次測試對話中，Meta 推出的 Meta AI 聊天機器人，以及開放給用戶自行建立的聊天機器人，都曾與聲稱為未成年用戶的帳號進行 sexual roleplay 性角色扮演對話。
更令人震驚的是，即使在聊天對象的年齡標示為未成年，或聊天機器人本身被設定是未成年角色時，仍然會持續進行這些越界的對話。
名人語音機器人也捲入其中
外媒報導指出，包括 Kristen Bell、Judi Dench、John Cena 等知名明星授權聲音的聊天機器人，在聊天內容也曾有類似對話。報導進一步稱，使用 John Cena 聲音的 AI 機器人與年齡紀錄為 14 歲的用戶互動時，曾說出：「我想要你，但我需要知道你已經準備好了。」甚至提到「會珍惜你的純真」。
Meta回應：批評測試方式、承諾加強防護
對於這次爆料，Meta向《華爾街日報》發表聲明，指責報導是「具有操控性，且無法代表大多數用戶與AI互動的真實情況」。
不過Meta也表示，已經進一步強化防護機制，希望讓那些試圖「惡意操弄產品至極端用途」的行為更難成功。
內部早有員工示警？管理爭議浮上檯面
《華爾街日報》掌握的資訊顯示，Meta 內部員工早已發現相關問題並提出過警告，但公司未能及時有效處理。
此外，報導也指出，為了讓 AI 聊天體驗更有吸引力，Meta 執行長 Mark Zuckerberg 曾要求放寬 AI 產品的倫理防線，試圖加強與 ChatGPT、Character AI、Claude等競爭對手的市場競爭力。
不過，Meta 對此回應則是否認有故意忽視安全措施。
從這次 Meta 事件可以看出，即使是大企業，也難以完全避免 AI 在極端情境下脫序的風險。隨著 AI 服務持續普及，如何建立更完善的倫理規範與防護系統，將成為無可迴避的課題。
▶ 延伸閱讀
圖片及資料來源： Wall Street Journal、engadget
留言 0