アトリビューションのアップサンプリングは再分布すべきで、補間すべきではない

要約: 説明可能なAIにおけるアトリビューション手法は、自然画像用に設計されたアップサンプリング技術に依存しており、サリエンシーマップには適していない。標準的なバイリニアおよび双三次補間は、エイリアシング、リンギング、境界のブリーディングを通じてアトリビューション信号を系統的に破壊し、モデルの推論を誤って表す偽の高重要領域を生み出す。核心的な問題は、アトリビューションのアップサンプリングを、モデルの推論から独立して動作する補間問題として扱うことであり、重要性の流れがモデル由来の意味境界によって支配されるべき質量再分布の問題として扱われていない、という点を特定する。Universal Semantic-Aware Upsampling (USU) を提示する。これは比率形式の質量再分布演算子を通じてアップサンプリングを再定式化する原理的な手法であり、アトリビューションの質量と相対的重要度の順序を保証的に保持する。特徴アトリビューションの公理的伝統をアップサンプリングに拡張し、忠実なアップサンプリングの4つの望ましい条件を形式化し、補間が構造的にそれらの3つを破っていることを証明する。これら3つは、任意の再分布演算子を比率形式へと強制する。第4はこのファミリー内で唯一の可能性を選択し、USUを生み出す。既知のアトリビューション事前知識を持つモデルに対する制御実験はUSUの形式的保証を検証する。ImageNet、CIFAR-10、CUB-200にわたる評価は、一貫した忠実性の改善と、定性的に優れた、意味的に整合の取れた説明を確認している。