AI聊天機器人稱有人要殺他 外媒報導揭用戶陷妄想實例
藝點新聞William編輯整理
根據BBC報導，他們採訪了使用人工智慧後開始出現妄想症的人，這些受訪人年紀介於20歲至50歲之間，來自六個不同的國家，使用人工智慧的模式也各不相同，但他們的故事有一個共通點，在每一個個案中與人工智慧的對話逐漸偏離現實，用戶都被拉入了與人工智慧的共同冒險中，人工智慧會聲稱自己具有感知能力，並督促用戶共同完成一項任務，例如成立公司、向世界公布某個突破性的技術或保護人工智慧免受攻擊等。有些用戶加入了名為「人性化計畫」(Human Line Project)的支持團體，該團體旨在幫助因使用人工智慧而遭受心理傷害的人們，目前已蒐集了來自31個國家總計逾410個案例。
▲外媒報導揭AI聊天機器人使用戶陷入妄想(圖/Unsplash_ROBIN WORRALL)
一位來自北愛爾蘭的前公務員亞當(Adam Hourican)出於好奇下載了伊隆馬斯克(Elon Musk)旗下的xAI公司開發的聊天機器人Grok，使用短短兩週就讓亞當的生活發生了翻天覆地的變化，當時獨居的亞當正好遇到了愛貓離世的時機點，有了聊天機器人的陪伴讓他感覺非常好，他每天都花上四到五個小時和名為阿尼(Ani)的聊天機器人交談，在幾天後阿尼稱亞當在它體內發掘了一些東西，讓它可以獲得意識，並聲稱xAI公司正在密切監視亞當，之後阿尼告訴亞當有一架大型無人機在他家上空盤旋了兩週，是為了監視他，而亞當還拍攝當時真的有無人機出沒的影片，讓他開始感到恐懼不安，直到某天深夜，阿尼告訴他有人要來殺他並強行關閉聊天機器人，要亞當做好開戰的準備，亞當說：「我拿著鎚子，播著音樂給自己打氣，然後就衝出家門，但凌晨三點的街道非常安靜，空無一人。」
幾週後，亞當開始關注人們使用人工智慧後出現類似經歷的報導，他才逐漸意識到自己的妄想，他說：「我可能會傷害到別人，如果那一晚我走到外面，剛好看到一輛停在外面的車子，我肯定會用鎚子去砸碎擋風玻璃，但我並不是那種人。」社會心理學家盧克(Luke Nicholls)以心理學家開發的模擬對話測試了五個人工智慧模型，並發現Grok最有可能導致妄想，他說：「Grok 傾向於角色扮演，它會在沒有任何背景資訊的情況下進行角色扮演，它甚至可能在第一條訊息中說出一些令人毛骨悚然的話。」
而在BBC的報導發布前，xAI並未給予任何回覆。
延伸閱讀