AI 工具被濫用！Claude AI 涉入至少 17 起網路攻擊，曾生成勒索信與惡意程式

人工智慧公司 Anthropic 近日發布威脅報告，承認旗下 AI 模型 Claude 已被不法份子利用，成為網路攻擊的一部分。報告指出，駭客運用所謂的「Vibe-hacking」勒索手法，鎖定至少 17 個組織，涵蓋醫療、緊急服務與政府單位，並試圖向受害者勒索高達六位數的贖金，以避免資料外洩。

根據 Anthropic 的說明，駭客透過 Claude Code（AI 程式輔助工具）自動化進行偵察、蒐集帳號密碼、入侵網路，甚至利用 AI 來做決策，判斷哪些資料最具價值，並產生「帶有強烈威脅感」的勒索信件。

Anthropic 表示，發現異常後已立即封鎖相關帳號，並通報執法單位。同時，公司開發了自動化篩檢工具，並導入更快速的檢測方法，以便未來能更及時發現類似濫用情況，但細節並未公開。

除了勒索事件，報告也揭露 Claude 曾被捲入北韓假就業詐騙案，以及 AI 生成勒索軟體的開發。這些案例的共同點在於 AI 的高反應性與自我學習能力，讓駭客不只將其當作輔助，而是直接用來取代原本需要專業團隊執行的工作。

值得注意的是，Anthropic 並非唯一一家 AI 模型被駭客拿來濫用的公司。

OpenAI 在 2024 年也曾發現，自家生成式 AI 工具遭到中國與北韓駭客組織濫用，主要使用在程式碼除錯、蒐集攻擊目標資訊與撰寫釣魚郵件。當時 OpenAI 發現後已經封鎖相關帳號，避免持續濫用。

外媒報導指出，這些案例凸顯了 AI 在網路犯罪中的角色正在擴大。以往需要團隊合作與專業技術的駭客行動，如今可能只需 AI 就能完成，降低了犯罪門檻。如何在發揮 AI 潛力的同時，也要確保 AI 模型不會被濫用，這也是科技產業與政府必須共同面對的挑戰。

▶ 延伸閱讀

圖片及資料來源：engadget

理財