Energy-Regularized Spatial Masking：視覚モデルの頑健性と解釈可能性を高めるための新しいアプローチ

Abstract

深い畳み込みニューラルネットワークは、密な空間特徴マップを徹底的に処理することで目覚ましい性能を達成しますが、この力任せの手法は重要な計算上の冗長性を生み、見せかけの背景相関への依存を助長します。その結果、現代の視覚モデルは脆く、解釈が難しいままです。私たちは、特徴選択を微分可能なエネルギー最小化問題として言い換える新しい枠組み、Energy-Regularized Spatial Masking（ERSM）を提案します。標準的な畳み込みバックボーンの内部に軽量なEnergy-Mask Layerを埋め込むことで、各視覚トークンには、競合する2つの力から成るスカラーのエネルギーが割り当てられます。すなわち、固有のUnary重要度コストと、Pairwiseの空間的な凝集（コヒーレンス）に対するペナルティです。従来の枝刈り手法とは異なり、ERSMは、厳密な疎性予算を強制したり、経験的な重要度スコアに依存したりしません。ERSMは、各入力に合わせて最適な情報密度の平衡をネットワークが自律的に見いだせるようにします。私たちは、畳み込みアーキテクチャに対してERSMを検証し、これにより創発的な疎性が得られること、構造化された遮蔽（オクルージョン）への頑健性が向上すること、そして高い解釈可能性を持つ空間マスクが得られることを示します。さらに分類精度を維持しつつ、その学習されたエネルギー順位は、削除ベースの頑健性テストにおいて、大きさ（マグニチュード）に基づく枝刈りを大幅に上回ることを示します。これはERSMが、ピクセルレベルの教師なしで意味的な対象領域を分離する固有のノイズ除去メカニズムとして働くことを明らかにしています。