最近 OpenAI ChatGPT-4o 的影像生成技術變得更強大，許多人利用 AI 生成吉卜力風、LINE 貼圖、公仔小物等各種圖片，還能在圖片裡嵌入文字，讓許多玩家入坑訂閱 ChatGPT Plus。
如果只是生成趣味性的圖片，倒是無傷大雅，但外媒與創投人士卻發現 AI 圖片生成可以製造出幾可亂真的假發票、假帳單，擔憂未來可能會出現 AI 詐欺的問題發生。
網友測試：AI 生成的假發票幾可亂真
創投人士 Deedy Das 在社群平台 X 上分享了一張由 AI 生成的舊金山牛排館假發票，結果細節幾乎與真正的發票沒有差別。
經濟學者 Michael Gofman 更進一步利用 Deedy Das 的 AI 生成假發票，要求 AI 加上污漬或皺摺，讓假發票看起來更加真實。
在 LinkedIn 上，Raphael Chenol 分享了一張由 AI 生成的法國連鎖餐廳的發票，照片的皺摺、陰影等細節都相當逼真，如果不仔細檢查幾乎難以辨別真假。
外媒 TechCrunch 網站也親自測試，要求 ChatGPT 生成一張舊金山 Applebee’s 餐廳的假發票。雖然與真正的發票幾乎一樣，但仔細研究仍然可以發現破綻，像是數字格式錯誤、金額計算不正確等，這顯示 AI 在數學運算上仍有弱點。
不過，這些錯誤可以透過簡單的照片後製編輯，只要經過修正就會增加辨識難度。
AI 假發票恐助長詐欺，專家警告：防範詐騙風險升高
隨著 AI 生成技術越來越先進，假發票、假帳單可能成為詐騙集團的新工具。例如，詐騙者可能利用這些假發票申請報銷、冒充消費記錄，甚至進行財務詐騙。
對此，OpenAI 發言人 Taya Christianson 表示，ChatGPT 生成的所有圖片都 含有 AI 生成的元數據，以協助辨別真偽。此外，OpenAI 也會監測使用者行為，並對違反使用政策的人採取行動。
然而，外媒 TechCrunch 進一步詢問 OpenAI 為何允許 ChatGPT 生成假發票，這是否違反其禁止詐騙的使用政策？
OpenAI 回應稱，AI 生成假發票的技術可用於「教育財務知識」或「創作藝術與廣告」，並非僅限於詐欺用途。
AI 造假爭議不斷，未來該如何管理？
隨著 AI 影像技術的進步，如何防範 AI 生成內容被濫用 成為全球關注的議題。這項技術的應用範圍廣泛，從創意設計、教育應用到詐騙行為，如何監管與防止濫用，將成為科技公司與政府必須面對的挑戰。
未來，各大平台與金融機構可能需要加強 AI 偽造內容的識別技術，以降低 AI 造假帶來的風險。而對一般消費者來說，提高警覺、慎防可疑帳單或收據，將是避免受騙的重要防線。
▶ 延伸閱讀
圖片及資料來源：TechCrunch