防失控還是製造新漏洞？美 AI「強制關機」法案恐成駭客新目標
美國國會正加速討論一項要求人工智慧系統具備「關機」能力的聯邦法案，外界同時警告，這類制度若設計不當，可能帶來意想不到的反效果。根據法案內容，相關規範將要求特定企業維持技術能力，以便在必要時停止推論、終止使用者存取、暫停特定帳戶或使用模式，甚至直接關閉系統。
這項名為《AI Kill Switch Act》的提案，已由加州民主黨眾議員劉雲平（Ted Lieu）提出，並交由國土安全委員會審議。法案擬修訂《國土安全法》，授權國土安全部透過網路安全暨基礎設施安全局（CISA）相關機制，要求受規範企業在法案生效後 90 天內建立技術性停機能力，之後還需每年更新定義與要求。若企業發生相關事故，必須在 15 天內向主管機關通報。
法案也設計了分級處置思路，要求主管機關考量風險程度與緊迫性，採取從限流、調整存取到全面停用等不同措施，同時評估這些手段是否會干擾關鍵基礎設施。若企業違規，民事罰鍰最高可達每日 200 萬美元；若涉及特定命令違反，罰鍰上限則可提高到每日 2,000 萬美元。
不過，外界對這類「強制關機」機制並不全然樂觀。相關分析指出，如果美國要求本土 AI 系統必須內建可被啟動的關機開關，其他國家可能因擔心美方在政治壓力下啟動該機制，而降低採購意願，進一步削弱美國 AI 產業的國際競爭力。反過來，若各國也要求自家 AI 系統加入類似設計，恐讓美國企業與消費者更容易受到海外技術限制影響。
風險不只在國際層面。若這類機制被用在電網等關鍵系統上，可能引發大規模停電；而一旦成為系統內建功能，也可能讓駭客把「啟動關機」本身當成攻擊目標，藉此進行勒索或製造混亂。隨著國會同時討論更廣泛的 AI 安全立法，包括強制測試、稽核與開發者注意義務，AI 治理正成為華府近期最受關注的科技政策議題之一。
Watch Out For Boomerang Effect If Congress Passes A Federal ‘AI Kill Switch’ Law
Warning of AI doomsday ‘swarm’ sparks push to slam brakes on superhuman technology
（首圖來源：pixabay）