全紅嬋被AI仿冒扮聲賣蛋 大量粉絲上當已售逾4萬單
內地中央電視台揭發,有影片分享平台帳號利用人工智能(AI)扮聲仿冒奧運冠軍全紅嬋及孫穎莎、王楚欽,利用以假亂真的聲音帶貨賣雞蛋。其中有大量全紅嬋支持者上當落單,已售出4.7萬件商品。不過其實早在4月,她的家人已證實全紅嬋沒有代言相關產品。
有抖音博主利用AI以假亂真的聲音,配上奧運跳水冠軍得主全紅嬋的照片製作影片,片中仿冒的「全紅嬋」做直播帶貨說道:「大家好,我是你們的嬋寶,今天有事想請大家幫忙。嬋妹就想著幫助媽媽,讓家裡的生活過得更好一點,同時把老家的土雞蛋分享給粉絲們嘗嘗,所以專門讓哥哥教媽媽直播,今天讓媽媽先拿出300單老家的土雞蛋給大家放福利……」
報道指,記者在抖音平台發現一個名為「我是小助理吖」的帳號共發佈了17條影片,內容全部都是利用AI仿冒全紅嬋帶貨土雞蛋,其中一個影片點贊量高達1.1萬。評論區顯示,大量粉絲誤以為是全紅嬋本人,紛紛下單購買連結中的雞蛋,該商品連結顯示已售出4.7萬件。今年4月,全紅嬋家人曾向媒體證實,全紅嬋並未給相關農產品代言或授權。
除全紅嬋外,奧運乒乓球冠軍孫穎莎和王楚欽亦同樣被仿冒。在一個名為「小兔真可愛」的帳號中,兩位奧運冠軍被AI仿冒扮聲帶貨賣蛋。「AI孫穎莎」在片中說道:「大家好,我是莎莎,我為嬋寶家農家土雞蛋代言。今天我就拿到了8單做福利,它是自家散養土雞,而且是吃糧食和草長大的,營養價值特別高。」另外「AI王楚欽」在片中說道:「大家好,我是王楚欽,昨天收到嬋妹私信,說他們家土雞蛋大豐收,這麼好的土雞蛋不發出來就可惜了。就幫她拿點給家人、粉絲們嘗嘗。」
央視報道指,不只有名人被AI仿冒帶貨,還有名人、配音員的聲音被仿冒做語音直播。記者調查發現,在抖音、快手等網絡平台上,以「聲音克隆」為關鍵詞進行搜索,能輕易找到大量相關教學影片和軟件下載連結。部分博主不只詳細演示操作過程,還直接提供軟件資源,只需要大約十幾秒就能複製任何人的聲音。