編集の解剖学：知識編集のためのメカニズム誘導アクティベーション・ステアリング

要旨: 大規模言語モデル（LLM）は知識ベースとしてますます用いられているが、モデルを最新の状態に保つには、的を絞った知識編集（KE）が必要となる。しかし、編集が適用された後、編集内容がモデル内部でどのように実装されるのかは、いまだ不明である。本研究では、ニューロン単位の知識帰属（NLKA）を用いたメカニスティック（機構的）な観点からKEを捉える。従来の研究が、編集前の因果トレーシングや局在化に焦点を当てていたのとは対照的に、本研究では、成功した編集と失敗した編集を対比することで、編集が成功したときに変化する計算を切り出すための、編集後の帰属を用いる。代表的なKE手法にわたって調べたところ、次の一貫したパターンが見つかった。すなわち、中盤から終盤にかけての注意が主として新しいターゲットを促進し、一方で注意およびFFNモジュールが協調して元の事実を抑制する。これらの知見に動機づけられ、MEGA（MEchanism-Guided Activation steering）を提案する。これは、モデルの重みを変更せずに、帰属に整合した領域において注意残差介入（attention-residual interventions）を実行する手法である。CounterFactおよびPopularにおいて、MEGAはGPT2-XLおよびLLaMA2-7B上で、KE指標全般にわたって強力な編集性能を達成する。総合すると、本研究の結果は、編集後の帰属を分析から工学的シグナルへと引き上げる。すなわち、編集がどこで、どのように定着するのかを特定することで、MEGAが信頼でき、かつアーキテクチャに依存しない知識編集を提供することを可能にする。