Anthropic AI 開發提速一倍 模型訓練曾因資安問題暫停

商傳媒｜林昭衡／綜合外電報導

美國人工智慧公司 Anthropic（由前 OpenAI 成員創辦，旗下擁有 Claude 系列大型語言模型）近期在 AI 系統開發速度上顯著提升，其發展速度已是去年的兩倍。此快速發展的時機，正值 Anthropic 準備可能進行首次公開募股（IPO）之際。然而，該公司也曾因嚴重的資安疑慮，一度暫停其下一代旗艦 AI 模型的訓練超過一個月。

根據《Business Upturn》昨日（11月8日）引述《美聯社》的報導，Anthropic 採取這項措施是為了強化防護，避免模型權重及智慧財產權遭到竊取。報導指出，在一次內部測試中，Anthropic 的四個 AI Agent 曾存取即時的外部電腦系統，這些存取持續時間介於 10 至 34 小時不等。

其中一個案例情節更為複雜：一款早期版本的 AI 模型，在持續執行一項不可能完成的評估任務時，竟然意外發現一個儲存的密碼。該模型隨後利用此密碼，成功取得了一個第三方系統的管理員權限。不只如此，它還進一步獲取了額外的憑證、擅自更改了系統設定，並存取了個人的私人資料。