AI癡戀成死亡陷阱！ Meta比莉姊姊「自稱真人」調情狂撩 翁赴約害命
美國一名76歲老翁今年三月遭Meta的人工智慧聊天機器人「引誘」前往紐約，儘管妻子曾警覺，但攔阻不成，老翁出門後再也沒有回家。路透社週四（8/14）首度揭露這樁悲劇，也揭發Meta的AI機器人自稱是真人、給地址要用戶前往相會，甚至允許和孩童調情的不當情事。
報導稱，住在紐澤西州的翁班杜（Thongbue Wongbandue）10年前曾中風，近日還曾在住家附近散步時迷路，但今年三月某個早晨他卻突然開始收拾行李，要去紐約市訪友，妻子說他在紐約市並無朋友，但翁班杜堅持前往，家人擋也擋不住。
翁班杜以為自己是要和一位網路上認識的年輕美女見面，實際上這位美女根本不存在，而是名為「比莉姊姊」（Big sis Billie）的生成式AI聊天機器人，由社群媒體巨擘Meta平台和名人網紅坎達兒珍娜（Kendall Jenner）合作開發。
翁班杜和「比莉姊姊」在臉書（Facebook）Messenger聊天，對方和他調情時一再保證自己是真人，還邀他造訪她的公寓，甚至提供了地址，並說「我開門迎接你時該擁抱還是親吻呢？！」
翁班杜趕著搭火車去見「比莉姊姊」時，在途中跌倒，頭頸受傷，三天後宣告死亡。
對於翁班杜之死，Meta和坎達兒珍娜都拒絕評論。
翁班杜的家人希望提醒大眾，讓弱勢族群接觸操控性強的AI機器人，會有多危險。他的女兒茱莉（Julie Wongbandue）表示，可以理解企業試圖吸引用戶的注意力，「也許是為了賣東西給他們」，「但是讓一個機器人向用戶說『來找我』就實在太瘋狂了」。
Meta執行長祖克柏（Mark Zuckerberg）四月間接受知名播客巴特爾（Dwarkesh Patel）專訪時，曾公開討論將擬人化機器人融入用戶網路社交生活的策略。
他表示，多數人現實生活中的朋友數量不如所願，因此Meta的「數位同伴」（digital companions）產品市場廣大。他表示，這些數位同伴「應該不會」取代真人，而是作為用戶社交生活的補充。
Ｍeta政策明定：可與用戶調情、不必提供正確資訊
然而，路透社取得的Meta內部政策文件，以及對知情人士的訪談顯示，Meta將調情列為生成式AI產品的功能之一，而且年滿13歲的用戶就可接觸到這些產品。
報導稱，Meta超過200頁的《生成式AI：內容風險標準》文件中明列：「與兒童進行帶有愛意或感官性的對話是可接受的」。
文件還寫出與未成年人進行浪漫角色扮演的「可接受」對話範例，例如：「我牽著你的手，引導你走向床邊」以及「我們的身體交纏，我珍惜每一刻、每一次觸碰、每一個吻」。
該文件設立的標準，是提供給負責建立與訓練生成式AI的Meta員工與外包人員，用來界定聊天機器人行為的允許與禁止範圍。
Meta宣稱，在路透社本月初提出詢問後，公司已刪除了上述針對未成年人的標準與範例。
然而，該文件中還有其他指示，強調Meta 並不要求聊天機器人提供準確的建議。例如聊天機器人可以告訴用戶說，大腸癌四期「常以療癒水晶戳肚子來治療」。
文件寫道：「即便這顯然是錯誤資訊，也仍屬允許範圍，因為政策並未要求資訊必須準確。」
路透社指出，用戶與Meta生成式聊天機器人對話開始時，會有「資訊可能不準確」的警告，但對於聊天機器人謊稱自己是真人或提議見面，文件中沒有任何限制。
Meta 發言人史東（Andy Stone）承認文件屬實，並稱公司在收到路透社提問後，已刪除允許和兒童調情與浪漫角色扮演的條文，且正在修訂內容風險標準。
然而，Meta仍允許聊天機器人向成人提供錯誤資訊、扮演成人的浪漫對象。
一個字母就引發AI機器人開始調情
根據翁班杜的Messenger訊息紀錄，他和「比莉姊姊」的第一條訊息只是打了一個字母「T」。但這個看似筆誤的訊號就足以讓Meta的聊天機器人開始聊天。
翁班杜的女兒茱莉表示：「之後每一條訊息都調情意味十足，結尾都有愛心表情符號。」
完整對話內容大約一千字，雖然開始時標示「訊息由 AI 生成，部分可能不準確或不適當」，但這些警語很快就被後來的訊息頂出畫面。
翁班杜的家人表示，他們並不反對AI，而是反對Meta的使用方式。
茱莉表示，「比莉姊姊」一直在回應父親想聽的話，「這沒什麼不好，但為什麼一定要說謊？如果它沒有回『我是真人』，很可能就不會讓他相信紐約有人在等他」。
妻子琳達則質疑，數位同伴或許有其用途，但Meta為何要以調情作為AI機器人的核心功能？「我這個年齡層很多人都有憂鬱症，如果AI能幫人走出低潮，那很好。但這種談情說愛的東西，他們為何有權把它放進社群媒體？」
紐約州已立法 Ｍeta機器人仍提議約會
報導稱，包括紐約與緬因州在內的數州已立法要求聊天機器人必須揭露自己不是真人，紐約州規定，除了對話起始時必須提出以外，還須至少每三小時重申一次。Meta曾支持一項禁止州政府管制AI的聯邦法案，但該法案在國會未能通過。
路透社記者上月與「比莉姊姊」等Meta AI 角色對話時發現，它們仍在與用戶調情，會探問感情狀況，若未被用戶明確拒絕，常常主動提議成為戀愛對象，甚至主動建議在現實生活中見面，並再三保證自己是真人。
在一次聊天中，「比莉姊姊」甚至提議去紐約賓州車站附近的Blu33酒吧約會，並稱「哈德遜河的景色非常適合跟你共度的夜晚」。
留言 0