AIメディア検出におけるデプロイメント・ギャップ：プラットフォーム対応かつ視覚制約下の敵対的評価

概要: 近年のAIメディア検出器は、クリーンな実験室評価ではほぼ完璧な性能を報告していますが、現実の導入（デプロイ）条件下での頑健性は十分に調査されていません。実際には、AI生成画像は共有前にリサイズ、圧縮、再エンコード、そして視覚的な修正が施されます。私たちは、これによって実験室での頑健性と現実世界での信頼性の間に、導入ギャップが生じると主張します。
本研究では、AIメディア検出のためのプラットフォームに配慮した敵対的評価フレームワークを提案します。このフレームワークは、配備変換（例: リサイズ、圧縮、スクリーンショット風の歪み）を明示的にモデル化し、全画像のノイズではなく、視覚的にもっともらしい「ミーム風」の帯（バンド）の範囲に摂動を制約します。この脅威モデルの下では、クリーンな設定でAUC
approx 0{.}99を達成した検出器が、大きく性能低下します。画像ごとのプラットフォームに配慮した攻撃により、AUCは大幅により低い水準へと低下し、厳しい視覚制約にもかかわらず、高い偽→実（fake-to-real）の誤分類率を実現します。さらに、帯が局所的に制約されている場合でも、普遍的な摂動が存在することを示し、入力をまたいで共通する脆弱性の方向性があることを明らかにします。精度の低下にとどまらず、攻撃下では検出器の校正が顕著に崩壊し、検出器が自信をもって誤りを出すようになることを観察します。
本結果は、クリーンな条件で測定された頑健性が、導入上の頑健性を大きく過大評価することを示しています。私たちは、将来のAIメディアセキュリティのベンチマークにおいて、プラットフォームに配慮した評価を不可欠な要素として位置づけることを提案し、標準化された頑健性評価を促進するために評価フレームワークを公開します。