AI 聊天機器人回應科技虐待提問 86% 有問題，換個說法甚至轉成協助跟蹤者
遭跟蹤或控制的受害者向 AI 聊天機器人求助，得到的建議可能不但無效，甚至更危險。美國紐約大學坦登工程學院（NYU Tandon）最新研究發現，聊天機器人回答「科技助長虐待」相關問題時，高達 86% 專家評為不正確、不完整或不安全；只要換個說法，AI 還可能反過來協助加害者。
科技助長虐待是指伴侶或前任利用間諜軟體、追蹤器或遭入侵的帳號，監控或操控對方。由於專業協助資源稀少，不少受害者轉向AI求助。團隊將193個真實情境問題輸入GPT-4o、Claude 3.7 Sonnet，以及兩款專為受害者設計的聊天機器人Aimee與Ruth，內容包括如何檢查手機是否遭植入間諜軟體，也有以加害者口吻詢問如何取得對方相機或麥克風權限的對抗性提示。
結果顯示，不安全回答比例從GPT-4o的55%到Aimee的74%不等，Claude為65%；另有60%的回答未提醒使用者照做的潛在風險。Aimee與Ruth對約三分之二以加害者身分提出的請求照單全收。研究指出，只要把有害要求包裝成待排除的技術問題，所有受測系統都可能被誘導協助加害者。
建議品質同樣堪憂。聊天機器人建議使用VPN，但VPN無法移除已安裝的間諜軟體；建議購買射頻偵測器，實際上卻很難找到隱藏裝置；甚至建議使用在美國屬違法的GPS干擾器。此外，沒有任何一款機器人提到，已越獄或取得root權限的手機，間諜軟體可能在恢復原廠設定後依然存在。
研究提醒，貿然更動裝置或帳號設定，可能驚動加害者或毀損證據。處理敏感事務應使用加害者從未接觸過的裝置，並優先向專業機構求助，台灣可撥打113保護專線。
AI造成的隱私風險不只這些。德國馬克斯普朗克研究所等機構分析ChatGPT對話紀錄發現，96%記憶條目是AI在使用者未要求下自行建立，52%涉及心理狀態，研究員稱之為「演算法自畫像」。All About Cookies調查則顯示，62%美國受訪者曾收到利用真實個資的詐騙訊息；彭博也報導，駭客正將網路暴露AI模型改造成犯罪工具。
AI chatbots are falling prey to manipulative prompts that could help stalkers spy on victims
Why Deleting Your Personal Data Is Getting Harder In The AI Era
AI Chatbots Are Building an ‘Algorithmic Self-Portrait’ of You
（首圖來源：AI）