綜合外媒報導，OpenAI最近開始在最新ChatGPT-4o的圖像生成功能進行一項新測試，為免費版用戶生成的圖像添加「ImageGen」浮水印。
外界推測這項新測試的可能原因，是愈來愈多的免費用戶利用ImageGen模型生成類似吉卜力工作室（Studio Ghibli）風格的影像，一名AI研究員提博．布拉霍（Tibor Blaho）在社群平台Threads指出，OpenAI正在嘗試「可見」與「不可見」2種浮水印形式，主要針對免費版ChatGPT用戶，生成的圖像將被標記一個明顯可見的「ImageGen」浮水印，而付費訂閱用戶則沒有浮水印的圖像輸出。
OpenAI推雙層驗證機制，AI浮水印與隱形元數據並行
根據《WinBuzzer》指出，除了可見的ImageGen浮水印外，OpenAI此次策略還包括「雙重驗證機制」，也就是在生成的圖像中，嵌入以內容出處暨真實性聯盟（C2PA）標準的隱形元數據，用來識別時間戳記、軟體標籤及來源標記等等，確保內容來源的有效性，像是OpenAI在DALL·E 3圖像生成中就部署了C2PA元數據來追蹤內容來源。
不過，OpenAI先前也承認，元數據的驗證系統具有一定的局限性，如果圖像遭到裁減、螢幕截圖，或是上傳到能夠移除元數據的平台，都會讓這些隱形標記失效。
儘管如此，OpenAI仍積極支持AI使用浮水印技術的法律規範。例如，OpenAI與Adobe、微軟共同支持加州AB 3211法案，該法案強制要求科技公司標記AI生成內容，降低不實資訊傳播的風險。
Google、微軟都導入AI浮水印
不只OpenAI，許多科技巨頭都在想辦法替AI生成的內容「驗明正身」。像是Google在2025年2月，把透過DeepMind開發的SynthID系統擴大應用到Google相簿，這個技術不僅能用在完全用AI生成的圖片，連被AI編輯過的圖片也能加上看不見的浮水印，直接藏在圖片的像素裡。
微軟也在2024年9月透過Azure OpenAI服務導入了浮水印技術，把加密過的元數據放到DALL·E生成的圖片，記錄了圖片是誰生成的、什麼時候生成的、用哪個軟體生成的等。微軟還跟Adobe、Truepic和英國廣播公司（BBC）合作，讓不同平台都能有一套統一的內容驗證標準。
浮水印技術能被挑戰嗎？
浮水印技術並非難以破解，2023年10月，馬里蘭大學的研究人員發表一篇論文，表示AI上的浮水印能夠以一種名為「擴散淨化（diffusion purification）」的方法破解，只要在圖片裡加入雜訊再去除雜訊，就能有效地把那些隱形的浮水印去除。此外，擴散淨化還能偽造假的浮水印，讓圖片看起來像是AI生成的。
研究團隊針對實驗結果表示，單單依賴浮水印，可能無法提供針對被媒體操縱或假消息的防護。
延伸閱讀：GPT-4o生圖大進化！如何用它製作個人公仔、LINE貼圖、四格漫畫…？生成教學一次看
資料來源：WinBuzzer、Bleeping Computer
延伸閱讀
台股黑色星期一｜崩跌逾2000點創紀錄！上市股票幾乎全跌停，台積電848元
遭批扶不起的阿斗，裕隆：沒拿上百億政府補助！聲明全文曝國產車「鮮為人知的隱形貢獻」
「加入《數位時代》LINE好友，科技新聞不漏接」