ディープフェイクは、AI で作った本物そっくりの映像・音声・画像で人をだます手口です。かつては政治家のフェイク動画のように「広く拡散して世論を揺らす」型が中心でしたが、いま現場で実害が出ているのは個人や企業をピンポイントで狙う詐欺です。本稿は、検出技術・電子透かし・来歴記録という3つの技術と、それらが完璧にならない前提で組織が取るべき運用ルールを、最新の実態に沿って整理します。
FIG.1 「広く拡散」から「狙い撃ち」へ ―― 脅威の重心が移った
01いま起きている被害の形
抽象論より、実際の手口を知るのが一番の備えになります。2025〜2026 年に確認されている典型は次の4つです。いずれも「もっともらしさ」を武器に、相手の判断のスキを突きます。
- CEO・CFO なりすまし送金：経営層の声や顔を偽り、緊急の振込を指示する。香港の事例では、ビデオ会議の参加者全員が AI 生成の偽物で、財務担当が15回に分けて約2,560万米ドル（約38億円）を送金してしまった。
- 採用・リモート勤務のなりすまし：面接でディープフェイク映像を使い、別人がそのまま勤務を続ける（情報窃取や不正アクセスの足がかりになる）。
- 家族を装う緊急詐欺：肉親の声で「事故を起こした、示談金が要る」と振り込ませる。声はわずか数秒の公開音声からでも複製できる。
- 本人の同意なき性的画像生成：脅迫や嫌がらせの材料にされる。被害の回復が難しく、深刻な人権侵害になる。
規模感も押さえておきましょう。米 FBI の年次レポートには AI 関連の詐欺被害が多数報告され、ディープフェイク絡みの世界の被害額は累計で数十億ドル規模に達するとの推計があります。「自分や自社には関係ない」とは言えない段階に来ています。
02検出技術：頼れるが、頼り切れない
まず「AI が作ったかどうかを後から見破る」検出技術です。代表的なのは、生成物に残る不自然さ（アーティファクト）を機械学習で見つける方法。瞳孔反射の不整合、口の動きと音声のずれ、フレーム間の表情のゆらぎなどを手がかりにします。
ただし、ここで現実を正確に押さえる必要があります。検出器の精度は「実験室」と「現実」で大きく落ちるのです。攻撃側の生成モデルは日々進化し、去年のデータで訓練した検出器は今年の新手法に追いつけません。さらに、SNS にアップロードする際の圧縮、画質劣化、ネットワークのノイズが、検出器が学んでいない形で映像・音声を変えてしまいます。
| 実験室ベンチマーク | 実際の運用（in-the-wild） |
|---|---|
| 整った条件で高い数値が出る | 圧縮・劣化で精度が大きく低下する |
| 既知の生成手法に対して強い | 新しい生成ツールには追従が遅れる |
| 「ほぼ完璧」に見えがち | 市販検出器でも実環境では8割前後に落ちる報告 |
調査では、実環境のディープフェイクに対し主要な商用検出器の精度がおおむね78% 前後に下がり、学術ベンチマークと比べて判別力（AUC）が映像で約5割、音声で約5割低下したという結果も報告されています。つまり検出技術は「補助線」としては有効だが、これ単独で安全を保証するものではない。これが出発点です。
03電子透かし：作る側に印を埋める
検出が「後から見破る」アプローチなら、電子透かし（ウォーターマーキング）は生成する時点で目に見えない印をメディアへ埋め込む先回りのアプローチです。後から「これは AI 生成」と検証できます。Google の SynthID が代表例で、同社は数百億点規模の画像・動画と膨大な音声に SynthID を付与したと公表しています。
