誰能確保AI負責任？當川普撤銷AI監管令，台灣反超美國推亞洲首創監管中心
川普上任即撤銷監管AI的行政命令，AI軟體醫材的可信度只能靠醫院結盟自律來把關，令美國學者憂心忡忡。反觀台灣，由政府主導的醫療AI監管框架，正邁向下一個里程碑，台大醫院院長吳明賢表示，這一次，台灣走在時代的最前緣。
AI時代的醫病關係，像是隔著一面螢幕，醫師一邊聽病人說，一邊看著AI軟體，將醫病對話生成病歷，並根據病歷提示處置建議，如果醫師覺得建議有理，就會照做。但軟體供應商會不會收藥廠回扣，刻意讓AI運算失準，提示醫師多開某些藥？這真的發生過。
2020年，美國發生首件電子健康記錄供應商的刑事訴訟案，電子健康記錄公司Practice Fusion向14家藥廠收錢，允許廠商影響病歷軟體中的臨床決策支援系統，系統生成的提示促使醫師開出大量特定處方，包括鴉片類藥物。美國司法部痛批，廠商利用技術剝削病人，介入神聖的醫病關係，要罰1.45億美元（約台幣47億元）。
這個案例令開創電子病歷格式的先驅者心情沈重。衛生福利部資訊處邀請促成美國2020年立法統一電子病歷格式的哈佛大學教授曼多（Kenneth D. Mandl），在台灣發表演講，他提起此案格外語重心長，「這顯示，看不見的商業影響可能進入AI模型，改變演算結果。」
隨著智慧醫療不斷發展，負責任的AI監管愈顯重要，然而，美國卻因總統川普以「阻礙創新」為由放鬆管制，讓歐美許多醫院焦慮，採取結盟共管。反觀台灣則是在衛福部支持下，成立亞洲首創的「負責任AI執行中心」進行AI監管。
川普撤銷拜登AI監管令，學者：AI不應有特殊待遇
曼多表示，美國將許多型別的健康及臨床決策AI軟體醫材，排除於FDA監管之外，已獲FDA批准的1,000多個，也沒有上市後的監控機制，不知道它們在現實世界中如何運作、準確度如何。衛福部資訊處處長李建璋形容，就像是自駕車出廠後，如果沒有再學習、再驗證，看不懂市容變化，就可能撞上安全島。
現在很多醫師和病人都會問大型語言模型醫療問題，但驗證也令人擔心。曼多指出，美國醫學會雜誌（JAMA）近期系統回顧報告顯示，大型語言模型的驗證研究，僅5%使用真實病人的臨床資料，大多數只用考試問題去評估，「訓練資料若沒有代表性，訓練出來的AI就可能不適用某些人群。」
如今問題沒管好，美國政府又往放鬆方向走。2023年拜登發布行政命令，要求各聯邦機構制定安全測試標準，AI開發者發布可能影響國安、經濟、公共健康或安全的系統前，均需提交安全測試結果，但2025年川普上任後，就以「阻礙創新」為由撤銷了。
曼多表示，要確保AI負責任，公、私部門必須共同承擔監管和推廣的責任，他認為無論藥品、醫材、軟體，都該符合一致的監管架構，AI不應有特殊待遇。
美國醫界自發監管AI，歐洲、台灣快速跟上
雖然美國政府不想多管，但美國的醫師很焦慮。美國10幾家醫院自2024年起，在微軟支持下成立「可信與負責AI聯盟（Trustworthy and Responsible AI Network, TRAIN）」，目前已有50多家大小醫院加入，共同建立治理流程，歐洲也有10幾家醫院效仿，結盟共管。
微軟全球醫療長盧大衛（David C. Rhew）在同一場演講中表示，TRAIN善用科技進行AI治理，數據科學家、工程師、醫師密切合作，讓不同機構能夠以標準方法在保護隱私的安全環境中進行測試，共享異常發現、互相學習，同時共享人員及技術，以最符合成本效益的方式實現負責任AI。
台灣則創亞洲先例，由衛福部向美國取經，支持10家國內醫院共組「負責任AI執行中心」，推動規章制度和管理框架，再去教導其他醫院建立認證和標章。
台灣由政府發動監管，從輔導走向立法
衛福部資訊處處長李建璋表示，AI用在不同醫院、不同時間，有可能不準確，當AI判斷與醫師判斷不一致時，也不知該相信誰。這種不確定性促使美國醫院意識到監管框架的迫切，所以自發結盟。川普的任期是有限的，就算政府支持減少，民間力量勢必繼續推動，不影響台美合作。
「這一次，台灣走在時代的最前緣，」負責任AI執行中心召集人、台大醫院院長吳明賢表示，醫療是容錯率極低的專業，AI只是一個聰明的助理，給的答案不一定對，但能幫助人思考。希望未來有更多政府經費支持，讓台灣開創更多負責任、可信賴的AI，站上世界舞台。
相較於歐美仍在概念階段，台灣AI監管進度算是非常快。李建璋說，台灣的AI監管是由政府監督進行，秉持自主、當責、安全、透明、隱私、公平、永續這7大基本價值，涵蓋資安保護、臨床決策透明，以及上市後的產品生命週期管理。
李建璋預告，衛福部將以「輔導、評鑑、立法」3階段推進，成立負責任AI執行中心是輔導階段，下一步是評鑑，最後就是立法。資訊處已經制定技術手冊，並公告上網，這就相當於未來立法階段的施行細則初稿。
針對資安防護較弱的中小型醫院，首要仍是輔導。李建璋表示，面對勒索軟體等威脅，傳統被動防守不足，需要主動偵防工具，但這些很昂貴。資源較少的醫院現階段可以將資料分散、加密、備份，增加駭客攻擊的難度和成本，未來仍需投入更多資源以提升整體資安防禦力。
延伸閱讀：
留言 0