見えることはもはや信じられることではない：最前線の画像生成モデル、合成の視覚的証拠、そして現実世界のリスク

要旨: フロンティアの画像生成は、芸術的な合成から、合成された視覚的証拠へと移行してきました。GPT Image 2、Nano Banana Pro、Nano Banana 2、Grok Imagine、Qwen Image 2.0 Pro、Seedream 5.0 Liteのようなシステムは、フォトリアルなレンダリング、判読可能なタイポグラフィ、参照の一貫性、編集制御、そしていくつかのケースでは推論または検索に基づく画像構築を組み合わせます。これらの能力はデザイン、教育、アクセシビリティ、コミュニケーションに大きな利点をもたらす一方で、社会における最も一般的な信頼の近道の1つ、すなわち「もっともらしい絵は信頼できる記録である」という考えを弱めます。本論文は、合成視覚リスクに関する、ソースに根ざした技術的および政策的分析を提供します。まず最近の画像モデルの公開されている能力を要約し、その後、偽の危機画像、著名人や公人の画像、医療スキャン、偽造されたように見える書類、合成スクリーンショット、フィッシング用の資産、そして市場に影響を与える噂を含む、公開されたインシデントを分析します。次に、モデルの能力（アフォーダンス）を、金融、医療、ニュース、法、緊急対応、身元確認、そして市民的言説における現実世界の害と結び付ける、能力ごとの重み付けリスク枠組みを導入します。研究結果は、リスクがフォトリアリズムそれ自体よりも、現実味、判読可能なテキスト、アイデンティティの持続性、迅速な反復、そして配布文脈の収束によって駆動されることを示しています。我々は、層状の統制を主張します。すなわち、モデル側の制限、暗号学的な来歴（プロベナンス）、可視化されたラベリング、プラットフォーム上の摩擦、セクター水準の検証、そしてインシデント対応です。本論文は、モデル提供者、プラットフォーム、ニュースルーム、金融機関、ヘルスケアシステム、法律組織、規制当局、そして一般のユーザーに向けた実践的な推奨で締めくくります。