AI 浮水印 · 內容來源
AI Watermark / C2PA
什麼是 AI 浮水印?
- 為 AI 生成內容附上標示與來源紀錄,以辨別真偽
- 浮水印 = AI 與否的標示、C2PA = 製作與編輯履歷
- 與深偽因應及 AI 標示法規相互牽動
這項技術真正改變的,是'爭論真偽的順序'。過去是拿可疑影像來跑偵測器、計算機率;而浮水印與出處紀錄則把方向倒過來,在製作的當下就一併附上證據。因此討論的重心,從'這是不是假的',轉向'能不能說明這個檔案從哪裡來'。對實務人員而言,製作階段的一個設定,就能減少事後說明的成本。
標示大致分為三類。一是畫面上看得見的標籤;二是藏在像素或頻率領域中、能在一定程度承受裁切與重新壓縮的不可見浮水印;三是以簽章中繼資料附上製作與編輯紀錄的 C2PA 方式。前兩者處理的是「這個像素是不是 AI 產生的」,C2PA 處理的是「誰、用什麼工具、何時動過它」,因此兩者並非替代關係,而是要疊加使用。C2PA 必須以取得的認證憑證簽章才會生效;簽章一旦破損,只會顯示「無紀錄」,並不會告訴你這是假的。
但貼在文字上的標示情況不同。文字只要改寫幾次,標示就會變淡,無法像圖片與影片那樣耐用。因此很多企業不靠技術,而是以「AI 使用告知文字」這類營運規則來解決。法規也是同一個方向:歐盟 AI 法的透明性條款,或韓國的《AI 基本法》,都不是指定某種浮水印技術,而是要求讓使用者能辨識出這是 AI 生成物這樣的結果。
現場最常被破解的環節是流通階段。大多數社群與通訊軟體在上傳時會移除中繼資料並重新壓縮圖片,因此公司內附加的出處紀錄,常常在客戶看到的畫面上早已消失。只要一次截圖,就該視為什麼都沒留下。相反地,把偵測結果當成定論也很危險。只看「AI 生成可能性 90%」的判定,就退回協力廠商的交付品,結果證實是實拍,工期與關係就會一起崩壞。把簽章過的原始檔另外保存在公司內部,才是最後的防線。
源於對深偽(Deepfake)與不實資訊的因應需求,並隨著 Adobe、Microsoft 等企業參與的 C2PA(內容來源與真實性聯盟)標準,以及各國的 AI 標示法規而擴散開來。
以下以虛構案例說明。某國內彩妝品牌 A 公司(全體員工 180 人,年營收約 KRW 90,000,000,000 (≈ US$67,362,200))每月製作 200 張 Instagram 與 Naver 廣告素材,其中約六成以生成式 AI 製作。半年內,「這個模特兒是真人嗎?」的顧客詢問超過 40 件,而且同一素材在平台廣告審查中也屢次遭退件。
- 行銷團隊的 Park 主管回溯追查了近三個月 210 張素材,但能分辨出 AI 製作與實拍的,還不到一半。會議上有人說:「除了檔名,根本沒有其他線索。」
- 設計團隊將生成工具統一為附有 C2PA 內容憑證的版本,並取得簽章憑證,僅安裝在 3 台作業用電腦上;外包的自由工作者交付成果,也在合約中加入相同條件。
- Jung 代理上傳測試後發現,一上傳到 SNS,中繼資料就全被刪除才發布,因此制定了雙重標示規則:在貼文第一行一併寫上「AI 生成圖像」字樣。
- 法務的金副理將標示基準分為三階段:全面 AI 生成、AI 修飾、實拍,並明文規定禁止使用合成真實模特兒臉孔的素材。
- 簽章過的原始檔案與交付版本分開,於公司內部儲存空間保存180 天,並規定每季隨機抽出 20 張,確認紀錄是否仍然有效。
- 半年後,廣告審查遭退件的次數從每季 12 件降至 2 件,「是不是真人模特兒?」這類諮詢的回覆時間,也從平均 3 天縮短為當天。Park 主管表示:「現在只要一條原始紀錄查詢連結就能搞定。」
金鍾赫
Seung-tae Park