美國參議員指控生成虛假誹謗，Google下架 Gemma AI 模型
Google 11 月 2 日宣布暫時從其 AI Studio 平台移除 Gemma 生成式 AI 模型，該決定與田納西州共和黨參議員瑪莎·布蕾波恩（Marsha Blackburn）致函 Google 執行長桑達爾·皮查伊（Sundar Pichai）有關。布蕾波恩指控 Gemma 模型生成針對她的虛假性侵指控，並要求 Google 說明此類嚴重錯誤的原因。
布蕾波恩公開的信件指出，Gemma模型不僅出現「AI幻覺」問題，且呈現對保守派人士的偏見，令人擔憂生成式AI成為誹謗工具。此事發生於近期參議院聽證會期間，Google副總裁Markham Erickson在聽證會上承認生成式AI幻覺不可完全避免，但強調公司持續努力降低錯誤風險，並未蓄意偏頗。
Google表示，Gemma原本是做為輕量級AI模型供開發人員透過API整合使用的產品，並非設計為直接面向消費者的工具。由於部分非開發用戶在AI Studio平台中嘗試用Gemma詢問事實性問題，導致AI生成不實訊息，Google決定將該模型從AI Studio下架，但會藉由API繼續提供服務，同時致力於改進模型表現與安全性。
這起事件突顯AI生成資訊的誤差與潛在偏見問題，並引發美國政界加緊監督AI企業的呼聲，強調在技術創新與社會責任間需取得平衡。
Google removes Gemma models from AI Studio after GOP senator’s complaint
Blackburn Demands Answers from Google After Gemma Manufactured Fake Criminal Allegations Against Her
Senate Republican demands Google shut down AI model over false rape allegation
Google pulls Gemma from AI Studio after Senator Blackburn accuses model of defamation
（首圖來源：Google）