スケール対応型アドバーサリアル分析：マルチスケール複雑システムにおける生成AIの診断

arXiv cs.LG / 2026/5/4

📰 ニュースIdeas & Deep AnalysisModels & Research

共有:

要点

本論文は、生成モデルに対する既存の説明可能AI（XAI）手法、とりわけ摂動ベースや勾配サリエンシーが、ピクセル単位の変更に依存しており非物理的なアーティファクトを生み得て、入力を妥当なデータ分布から外してしまう点を指摘している。
そこで、拡散ベースのマルチスケール分解・評価をスケールに応じて行う「Constrained Diffusion Decomposition（CDD）」に基づく、スケール対応型の診断フレームワークを提案している。
このフレームワークをDDPMに適用し、非物理的な入力摂動ではなく、連続的なCDD由来のスケール空間上で決定論的な介入を実行している。
その結果、適度な物理的摂動下では、非制約の生成モデルが連続的なPDE的応答ではなく、局所的な構造のフリーズや非線形の不安定性を示し、さらにクロススケールの連続性を保てず、未知の物理状態に押し込むと生成軌道が発散することを示した。
著者らは、このスケール情報を用いた手法がアルゴリズムの脆弱性を検証するための制御された物理テスト基盤を提供し、将来の生成アーキテクチャが自然界のマルチスケールな因果性をより尊重するための指針になると主張している。

Abstract

超音速乱流から宇宙の巨視的構造に至る複雑な物理システムは、連続的な多重スケール動力学によって支配されています。現代の機械学習アーキテクチャは、これらのシステムの高次元の観測量を写像することに優れていますが、それらが支配する物理法則を内部化しているのか、それとも離散的な統計的相関を単に内挿しているだけなのかは依然として不明です。標準的な説明可能AI（XAI）アーキテクチャ、特に摂動ベースおよび勾配サリエンシ（gradient-saliency）手法は、画素ごとの摂動に依存しており、非物理的なアーティファクトを生成して入力を有効な経験的分布から押し出します。これを解決するために、拘束付き拡散分解（Constrained Diffusion Decomposition: CDD）に駆動される診断フレームワークを導入します。CDDは、物理的に拘束されたデータ生成と、スケールを意識した改変によるモデル評価を可能にする、拡散ベースの多重スケールデータ分解アルゴリズムです。このフレームワークをDenoising Diffusion Probabilistic Model（DDPM）に適用し、連続的な、CDDに基づくスケール空間の内部で、決定論的な介入を直接実行します。中程度の物理的摂動のもとでは、無拘束の生成モデルが連続的なPDEのような応答ではなく、局所的な構造の“凍結”と非線形の不安定性を示すことを実証します。ネットワークはスケール間の連続性を維持できず、未知の物理状態へ押し込むと生成軌道が発散します。物理的に整合的な状態の連続体を合成することで、このスケールを情報として取り込む手法は、アルゴリズムの脆弱性を評価するための制御されたテスト環境を確立し、将来のアーキテクチャが自然界の多重スケール因果性を尊重するために必要な、厳密な物理的拘束を提供します。