比「搶飯碗」更可怕的是「一本正經地胡說八道」，Anthropic 8 萬人調查揭露 AI 時代最大陰影
根據 Anthropic 最新針對 8 萬名 Claude 使用者進行的大規模調查顯示，人工智慧（AI）產生的「幻覺」問題──即生成看似合理但事實錯誤的資訊──已成為使用者心中最大的陰影。這份調查報告為當前 AI 技術的應用現狀提供了詳盡的觀察，指出使用者對於 AI 誤導資訊的恐懼，已顯著超越了對「AI 取代工作」的擔憂。
自 2022 年生成式 AI 崛起以來，幻覺問題始終是技術發展的絆腳石。儘管技術不斷更迭，報告顯示，即便採用了「檢索增強生成」（RAG）等修正技術，AI 的幻覺問題依然存在。
過去幾年，AI 幻覺引發的爭議屢見不鮮。這些事件不斷侵蝕使用者的信任。調查指出，全球有 55% 的 AI 使用者曾因幻覺遭受實質損害，而擔心失業的比例僅為 28%。
專家分析認為，幻覺之所以比失業更令人不安，主要在於其「即時性」，AI 的錯誤資訊可能在瞬間導致法律罰款或決策失誤。
儘管業界致力於開發更具真實性的模型，但業界對此仍持保留態度。隨著 AI 深入整合至專業領域，決定其未來的關鍵或許不在於它能完成多少任務，而是在於它是否能贏回使用者的信任。目前，高達 68% 的企業高層認為，系統的可靠性遠比生產力的提升更為重要。
（首圖來源：AI 生成）