言語モデルは意味関係を符号化するのか？プロービングとスパース特徴分析

要旨: 大規模言語モデル（LLM）が構造化された意味を捉えているかどうかを理解するには、概念間の関係をそれらがどのように表現しているかを調べる必要がある。本研究では、規模を段階的に大きくした3つのモデル、Pythia-70M、GPT-2、Llama 3.1 8Bを対象とし、4つの意味関係――同義（synonymy）、反義（antonymy）、上位概念（hypernymy）、下位概念（hyponymy）――に焦点を当てる。線形プロービングと、疎オートエンコーダ（SAE）やアクティベーション・パッチングを含むメカニスティック解釈可能性手法を組み合わせることで、これらの関係がどこに符号化されているのか、そして表現に寄与する特定の特徴は何かを特定する。我々の結果は、階層的関係における方向性の非対称性を明らかにする。すなわち、上位概念は冗長に符号化され抑制に抵抗する一方で、下位概念はコンパクトな特徴に依存しており、アブレーションによってより容易に破壊される。より広く言えば、関係のシグナルは拡散しているが、安定したプロファイルを示す。すなわち、それらは中間層でピークを迎え、注意（attention）よりも、残差後（post-residual）/MLP経路でより強い。困難さはモデル間で一貫しており（反義が最も容易、同義が最も難しい）、プローブ・レベルの因果性は容量に依存する。Llama 3.1では、SAE誘導のパッチングによりこれらのシグナルが確実にシフトするのに対し、小型モデルではシフトが弱いか不安定である。我々の結果は、LLM内部で意味関係がどこで、どのように、そしてどの程度確実に表現されているのかを明確にするとともに、疎な特徴をプローブ・レベルの因果的証拠に結びつけるための再現可能な枠組みを提供する。