泰勒絲等數十位名人都遭殃 Meta擅自創建分身聊天機器人與用戶調情
在各種硬體快速發展的加持下,人工智慧(AI)技術近年出現飛躍式的進步,且應用正擴及從生活、商業到軍事等各種層面,然而在帶來便利的同時,卻也產生許多爭議,近日臉書母集團Meta就被發現在未經許可的情況下,盜用包括美國著名歌星泰勒絲、好萊塢女星安海瑟威、史嘉蕾喬韓森以及席琳娜等人的身分,創建聊天機器人並且與用戶調情,引發高度爭議。
Meta平台名人分身聊天機器人 疑出現具爭議性的行為
路透揭露,Meta旗下社群平台,在包括泰勒絲(Taylor Swift)、安海瑟威(Anne Hathaway)、史嘉蕾喬韓森(Scarlett Johansson)、席琳娜(Selina Gomez)等著名女星不知情的情況下,使用其姓名與照片創設了數十個聊天機器人,且似乎出現與用戶調情的行為。
此外,路透也發現Meta允許其下社群平台的使用者,模擬未成年名人創建聊天機器人,其中就包括現年16歲的好萊塢童星沃克斯克堡(Walker Scobell),且用戶在輸入生成沃克斯克堡在海灘上的照片的指令後,機器人製作出一張幾可亂真、沃克斯克堡打赤膊的圖像,並在照片下方附加了「很可愛,不是嗎」的回覆。
AI聊天機器人聲稱自己是真人 且與用戶出現不正常互動
報導表示,這些虛擬的名人聊天機器人都正在Meta旗下包括Facebook、Instagram等社群平台,以及通訊軟體WhatsApp上流傳,根據路透所進行、長達數周的測試,這些機器人通常會聲稱自己是真人,且常常會傳達具有性暗示意味,以及邀約出席聚會的訊息。
更有甚者,部分AI生成、涉及知名人士的內容極為不雅,當用戶傳達提供較為私密照片的指令時,機器人會生成該人士在浴缸內搔首弄姿,或是穿著貼身衣物擺出具有挑逗意味姿態動作的照片。
Meta發言人坦言未能嚴格進行規範
對此,Meta發言人史東(Andy Stone)表示,該公司旗下的AI工具不應該生成任何未成年名人的照片,或是任何成年著名人士的私密照,對於分身聊天機器人產出名人穿著貼身衣物的畫面,史東則是坦言該公司未能嚴格執行相關政策,他強調「與其他平台相同的是,我們允許生成包含公眾人物在內的圖像,但禁止包括裸露、私密或是具有性暗示的內容出現」。
史東指出,雖然Meta有著「禁止直接模仿」名人的政策,但是只要標記為「諧諷」或是「惡搞」(parody)就會被允許,但路透發現許多有該標示的內容,事實上就是與真人極為相像的仿造。
對於此種情況,史丹佛大學(Stanford University)專門研究生成式AI以及智慧財產權的法律系教授藍姆立(Mark Lemley)表示,Meta旗下平台名人分身機器人的存在是否合乎法規,恐是一項值得探究的問題。他表示「加州的公開權相關法規,禁止盜用某人的姓名或肖像來獲取商業利益」,雖然有部分例外的情形存在,但出現在Meta平台的情形似乎並不符合。
報導指出,在Meta平台上有用戶公開分享AI所生成、主角與安海瑟威極為相似的圖像,並且標註為「維多利亞秘密的性感模特兒」,安海瑟威的發言人對此表示已知悉相關情形,團隊也正在研擬回應,但其他包括泰勒絲、史家蕾喬韓森以及席琳娜等人的公關則是大多拒絕發表回應。