Weight Patching: LLMにおけるソースレベルのメカニズム的局所化に向けて

要旨: 機械的解釈可能性は、モデルの振る舞いを、それを因果的に実現している内部コンポーネントへと局在化することを目指します。先行研究は、活性化空間の局在化や因果トレーシングを前進させてきました。しかし、活性化空間上で重要に見えるモジュールは、目標となる能力をそれ自身のパラメータで符号化しているというより、上流からの信号を単に集約したり増幅したりしているだけかもしれません。このギャップに対処するために、本研究では Weight Patching（重みパッチング）を提案します。これは、同一アーキテクチャのペアモデルを対象とした、ソース指向の分析のためのパラメータ空間介入手法です。ここで、関心のある入力に対して、ある目標能力をどれほど強く表現するかが異なっている2つのモデルを考えます。基となるモデルと、行動が特化した対応モデルが与えられたとき、Weight Patching は、固定した入力のもとで、特化モデルから選択したモジュールの重みを基となるモデルへと置き換えます。本手法を命令追従に適用し、ベクトルアンカーによる振る舞いインターフェースを中心とした枠組みを導入します。このインターフェースは、開放的な生成においてタスクに関連する制御状態が形成された、または回復されたかどうかの判定に用いる共有された内部基準を提供します。この枠組みによる分析により、浅い候補のソース側キャリアから、集約およびルーティングを担うモジュール、そして下流の実行回路に至る階層構造が明らかになります。回復されたコンポーネントのスコアは、メカニズムを意識したモデルの統合にも利用でき、評価した専門家の組み合わせ全体で選択的なフュージョンを改善し、さらに外部的な追加検証を提供します。