深偽技術
Deepfake
什麼是深偽技術?
- 逼真合成臉孔與聲音
- 雖可用於創作,但也常被用於詐欺與造謠威脅
- 以 GAN・擴散模型為基礎
深偽技術真正改變的,不是影片剪輯技術,而是證據的地位。過去,拍到臉的影片或包含本人聲音的通話,本身就能取代確認程序。如今則必須在臉孔與聲音已不再能證明身分的前提下,重新設計業務規則。冒用高階主管要求匯款的事件增加,背後的原因不只是技術變得精密,更在於組織仍把「聽到聲音就算數」當作核准依據,這正是漏洞所在。
製作方式大致分為三類。一是換臉型,把既有影片中的臉換掉;二是對嘴型(Lip-sync),讓嘴型與表情配合語音動起來;三是合成型,從零開始生成人物。其中語音複製門檻最低,只要有公開的幾十秒語音,就能模仿說話習慣甚至語調。CG、修圖與 AI 生成圖像的界線也在這裡劃分:一旦借用真實人物的身分,就從創作跨入冒充的範疇。因此因應方式也不再只靠單一偵測模型,而是逐漸轉向在拍攝、生成階段就嵌入來源資訊的內容來源標準(如 C2PA)。
現場最常出錯的,是「看得出來就不會被騙」的迷思。大家通常會把眨眼或脖子邊緣不自然的界線當作判斷依據,但對最新模型已不太管用;在畫質較低的視訊會議畫面中,連這些線索也會模糊。「我們的高階主管沒上過節目,應該很安全」這種安心也很危險:徵才宣傳影片、YouTube 致詞、企業說明會錄音,只要幾十秒就足以成為素材。有些組織裝了偵測軟體就以為萬無一失,但偵測只能降低機率。匯款、簽約、人事公告等無法挽回的行為,必須同時設有另一管道再次確認的規則,才能真正防止事故。
此詞約於 2017 年前後出現。當時網路上的臉部合成影片大量擴散,人們以「deepfake」(deep learning + fake)稱之,隨著生成技術進步,也逐漸成為社會議題。
我們以一個假設案例來看。A 公司是擁有全體員工 620 人的汽車零件製造商,年營收 KRW 180,000,000,000 (≈ US$134,724,500),資金會匯往三家海外子公司。去年 11 月,一通冒充越南子公司代表的語音訊息,差點讓 KRW 42,000,000 (≈ US$31,400) 被匯出。財務團隊覺得不對勁,拖了 30 分鐘才把款項攔下,但匯款核准規定上仍保留著「負責人以電話確認」這句話。
- 財務部金副理在下週會議上報告:「那天那個聲音,連語調和說話尾音的習慣都是執行長本人。」經營支援本部長則指示,先重新檢視相關規定。
- 資安負責人李課長從公司的 YouTube 頻道與徵才影片中,擷取出收錄高階主管聲音的片段 17 段,共 42 分鐘,並在經營層面前原樣播放。
- 財務部已修改流程:KRW 20,000,000 (≈ US$15,000) 以上的海外匯款,不得只憑電話或視訊指示辦理,並要求申請人改撥事先登錄的個人手機回撥,核對約定好的確認用語。
- 教育訓練團隊製作了一堂 30 分鐘的內部課程,讓學員並排聆聽合成語音與真人語音並作出判斷。結果第一輪正確率僅 38%,參加者議論紛紛了好一陣子。
- 半年後共接獲 9 件疑似冒用的通報,其中 3 件確認為實際冒用,實際匯款損失為 0 件;回撥程序的遵守率也從第一個月的 61% 提升至 97%。
金鍾赫
Hye-rang Park