私が何度も立ち返ってしまう見取り図があります。それは、合成画像や動画は、ほとんど誰も信じない状況でも成功し得るということです。
それは、直接的に人々の考えを変えるからではありません。攻撃の対象となった資源へと、注意を振り向けてしまうからです。
もしキャンペーン、ニュースルーム、プラットフォーム、あるいは企業が、偽物に立ち止まって対応しなければならないなら、その偽物はすでに狙いの一部を達成しています。
- 防御側は貴重な時間を、検証と説明に割くことになる
- 視聴者は結局、その主張を処理せざるを得なくなる
- あらゆるデバンク（暴露・反証）が、アーティファクトの再生（リプレイ）を招くリスクを持つ
- 機関は、正しい場合でも反応的に見えてしまう
- 攻撃者は、防御側を確実にループへ引き込むテーマを学習する
ですから検出は必要ですが、それだけでは不十分です。システムの後半は、配信（ディストリビューション）への対応です。
私が、いつもの「検出できるのか？」という議論よりも重要だと思う実践的な設計上の問いがいくつかあります。
- 埋め込み、引用、あるいは偽物に報酬を与えることなく、デバンク（反証）できるか？
- プロヴェナンス（来歴）シグナルは、二択の「削除する／放置する」ではなく、疑わしいメディアをより遅いレーンへ移動させられるか？
- ニュースルームやプラットフォームは、注意（アテンション）の予算を運用上の制約として追跡しているか？
- 対応チームは、「これは偽だ」と「これは幅広く増幅される価値がある」を切り分けられるか？
- 攻撃者のリプレイ価値を下げながら、検証のための証拠をシステムは保存できるか？
失敗モードは、「あらゆる偽物を、情報の正確性の問題として扱う」ことです。ですが、その中には、注意に対するサービス拒否（DoS）攻撃により近いものもあります。
ここで皆さんが、応答（レスポンス）層をどう設計するのか気になります。「デフォルトで検閲」にならない形で、合成メディアの健全な「検疫レーン」はどのように見えるべきでしょうか？
[link] [comments]
