視覚言語モデルの構造グラフ・プロービング

Abstract

視覚言語モデル（VLM）は強力なマルチモーダル性能を達成しますが、ニューラル集団にわたって計算がどのように組織化されているのかは、いまだ十分に理解されていません。本研究では、各層をニューロン間の共活性化から導出される「層内相関グラフ」として表し、ニューラルトポロジーの観点からVLMを調べます。この見方により、集団レベルの構造が行動（振る舞い）的に意味を持つのか、それがモダリティや深さにわたってどのように変化するのか、さらに介入によって因果的に影響力のある内部構成要素を特定できるのかを問うことが可能になります。相関トポロジーには回復可能な行動信号が含まれていることを示します。さらに、モダリティをまたいだ構造は、深さとともに、反復的なハブ・ニューロンのコンパクトな集合の周りで漸進的に統合されていき、このハブに対する狙いを定めた摂動はモデル出力を大きく変化させます。したがって、ニューラルトポロジーは、VLMの解釈可能性にとって意味のある中間スケールとして現れます。局所的な帰属よりも豊かで、全回路の回復よりも扱いやすく、そして実験的にマルチモーダルな振る舞いと結び付いています。コードは https://github.com/he-h/vlm-graph-probing で公開されています。