知識 · AI基礎

ディープフェイク

Deepfake

📂AI 基礎⏱読了2分📊入門🔗関連 4

ディープフェイクとは?

一行定義
AIで顔や声を本物そっくりに合成・加工した偽の映像・音声。創作にも使われるが、詐欺や虚偽情報の脅威でもある。
このテーマを社内研修で📚 関連研修💬 研修のお問い合わせ
⚡ 3行要約
  • 顔・声を本物のように合成
  • 創作にも使われるが、詐欺・虚偽の脅迫にも
  • GAN・拡散モデルが基盤

ディープフェイクが実際に変えたのは、映像編集の技術ではなく証拠の地位です。以前は、顔が写った映像や本人の声が入った通話そのものが確認手続きの代わりを果たしていました。今は顔と声はもはや本人確認にならないという前提で、業務ルールを組み直す必要があります。役員になりすました送金要請が増えた背景も、技術が精巧になったからというだけではなく、組織が依然として「声を聞いたから大丈夫」を承認の根拠にしているという弱点にあります。

作り方は大きく三つに分かれます。既存の映像で顔だけを差し替える「差し替え型」、口の動きと表情を発話に合わせて動かす「リップシンク型」、人物そのものを一から作り出す「合成型」です。中でも音声複製は参入障壁が最も低く、公開された数十秒分の声さえあれば、話し癖やイントネーションまで真似されます。CG・補正・AI生成画像との境界もここで分かれます。実在の人物の同一性を借りた瞬間、創作物ではなく、なりすましの領域に入ります。そのため対応の軸も、検出モデル一つではなく、撮影・生成の段階で出所情報を埋め込むコンテンツ出所標準(C2PAなど)の方へ移りつつあります。

現場で最もよくずれるポイントは「見ればわかる」という思い込みです。まばたきや首筋の不自然な境界線を手がかりに学びますが、最新モデルにはあまり通用せず、画質の低いビデオ会議の画面ではその手がかりさえつぶれてしまいます。「うちの役員は放送に出たことがないから安全だ」という安心も危険です。採用PR動画、YouTubeの挨拶、会社説明会の録音は、数十秒あれば材料として十分です。検出ソリューションを入れたから終わりだと考える組織もありますが、検出は確率を下げるだけです。送金・契約締結・人事通知のように取り消せない行為は、必ず別の経路で再確認するルールも併せて持ってこそ、事故を防げます。

この用語が登場する研修 · AI・DX
おすすめ研修 · おすすめ講師 · 簡易見積もり
🧮 ミニ見積もり・講師料の基準
約120万ウォン(約14万円)特別講義 2時間 · 20名以下 · 韓国語
この条件で正式な見積もりを依頼 →
💡 かんたんに言うと
映画のCGを誰でも作れるようになったこと——有用である一方、フェイクニュースや詐欺の武器にもなります。
実務でなぜ重要なのか
AIが作った偽物を見分ける能力は、もはや基本的な素養です。組織のセキュリティ(音声詐欺など)にも直結します。
由来と出典

この用語は2017年頃、オンライン上で顔合成動画が広まる中で'deepfake'(ディープラーニング+fake)と名付けられ、生成技術の発展とともに社会問題になりました。

事例で理解する

仮想の事例で見てみましょう。役職員620名規模の自動車部品メーカーA社は、年間売上1,800億ウォン(約2,152,621万円)で、海外法人3社に資金を送っています。昨年11月、ベトナム法人の代表を装った音声メッセージ1通によって、4,200万ウォン(約502万円)が流出しかけました。財務チームが違和感を覚え、30分引き延ばして食い止めましたが、送金承認規定には「責任者への電話確認」という文言がそのまま残っていました。

  1. 財務チームのキム次長は、次の週の会議で'あの日の声は、イントネーションや語尾の癖まで代表そのものでした'と報告し、経営支援本部長は規定から見直すよう指示しました。
  2. セキュリティ担当のイ課長は、社のYouTubeチャンネルと採用動画から役員の声を含むクリップ17本、合計42分分を抜き出し、経営陣の前でそのまま再生して見せました。
  3. 財務チームは、2,000万ウォン(約239万円)以上の海外送金を電話や映像の指示だけでは進められないように変更し、依頼者に事前登録された個人携帯へコールバックして、合意済みの確認フレーズを照合するよう手続きを改めました。
  4. 教育チームは30分の社内研修を作り、合成音声と本物の音声を並べて聴き分けさせたところ、1回目の正答率はわずか38%にとどまり、参加者たちはしばらくざわつきました。
  5. 半年後、なりすましの疑いの通報は9件受け付けられ、そのうち3件が実際のなりすましと確認されましたが、実際の送金被害は0件でした。コールバック手続きの遵守率は、初月の61%から97%に上がりました。
関連用語
この用語に関連する研修
📚エージェントAI実務入門ナヌム経営コンサルティング 企業研修 · 対面/オンラインコースを見る →
このテーマで社内研修が必要でしょうか?
ご担当者さま向けの研修プログラム・お見積もりを、すぐにご覧いただけます。
研修のお問い合わせ
最終更新 2026-09-13 · 監修 金鍾赫

よくある質問

制作・教育・復元などに役立つ活用もあります。ただし、なりすましや虚偽情報への悪用には警戒が必要です。
ますます難しくなっています。検出技術もありますが、「重要な指示は別の経路で確認する」という習慣が最も現実的です。
創作・吹き替えなどに役立つ使い道もあります。ただし、詐欺・虚偽情報への悪用が大きな脅威です。
ますます難しくなっています。出典の確認・電子透かし・検知技術が対策となり、鵜呑みにしない姿勢が重要です。