ディープフェイク
Deepfake
ディープフェイクとは?
- 顔・声を本物のように合成
- 創作にも使われるが、詐欺・虚偽の脅迫にも
- GAN・拡散モデルが基盤
ディープフェイクが実際に変えたのは、映像編集の技術ではなく証拠の地位です。以前は、顔が写った映像や本人の声が入った通話そのものが確認手続きの代わりを果たしていました。今は顔と声はもはや本人確認にならないという前提で、業務ルールを組み直す必要があります。役員になりすました送金要請が増えた背景も、技術が精巧になったからというだけではなく、組織が依然として「声を聞いたから大丈夫」を承認の根拠にしているという弱点にあります。
作り方は大きく三つに分かれます。既存の映像で顔だけを差し替える「差し替え型」、口の動きと表情を発話に合わせて動かす「リップシンク型」、人物そのものを一から作り出す「合成型」です。中でも音声複製は参入障壁が最も低く、公開された数十秒分の声さえあれば、話し癖やイントネーションまで真似されます。CG・補正・AI生成画像との境界もここで分かれます。実在の人物の同一性を借りた瞬間、創作物ではなく、なりすましの領域に入ります。そのため対応の軸も、検出モデル一つではなく、撮影・生成の段階で出所情報を埋め込むコンテンツ出所標準(C2PAなど)の方へ移りつつあります。
現場で最もよくずれるポイントは「見ればわかる」という思い込みです。まばたきや首筋の不自然な境界線を手がかりに学びますが、最新モデルにはあまり通用せず、画質の低いビデオ会議の画面ではその手がかりさえつぶれてしまいます。「うちの役員は放送に出たことがないから安全だ」という安心も危険です。採用PR動画、YouTubeの挨拶、会社説明会の録音は、数十秒あれば材料として十分です。検出ソリューションを入れたから終わりだと考える組織もありますが、検出は確率を下げるだけです。送金・契約締結・人事通知のように取り消せない行為は、必ず別の経路で再確認するルールも併せて持ってこそ、事故を防げます。
この用語は2017年頃、オンライン上で顔合成動画が広まる中で'deepfake'(ディープラーニング+fake)と名付けられ、生成技術の発展とともに社会問題になりました。
仮想の事例で見てみましょう。役職員620名規模の自動車部品メーカーA社は、年間売上1,800億ウォン(約2,152,621万円)で、海外法人3社に資金を送っています。昨年11月、ベトナム法人の代表を装った音声メッセージ1通によって、4,200万ウォン(約502万円)が流出しかけました。財務チームが違和感を覚え、30分引き延ばして食い止めましたが、送金承認規定には「責任者への電話確認」という文言がそのまま残っていました。
- 財務チームのキム次長は、次の週の会議で'あの日の声は、イントネーションや語尾の癖まで代表そのものでした'と報告し、経営支援本部長は規定から見直すよう指示しました。
- セキュリティ担当のイ課長は、社のYouTubeチャンネルと採用動画から役員の声を含むクリップ17本、合計42分分を抜き出し、経営陣の前でそのまま再生して見せました。
- 財務チームは、2,000万ウォン(約239万円)以上の海外送金を電話や映像の指示だけでは進められないように変更し、依頼者に事前登録された個人携帯へコールバックして、合意済みの確認フレーズを照合するよう手続きを改めました。
- 教育チームは30分の社内研修を作り、合成音声と本物の音声を並べて聴き分けさせたところ、1回目の正答率はわずか38%にとどまり、参加者たちはしばらくざわつきました。
- 半年後、なりすましの疑いの通報は9件受け付けられ、そのうち3件が実際のなりすましと確認されましたが、実際の送金被害は0件でした。コールバック手続きの遵守率は、初月の61%から97%に上がりました。
金鍾赫(キム・ジョンヒョク)
パク・ヘラン