Perturbation：言語モデルにおける表現学習のための単純で効率的な敵対的トレーサ

Abstract

深層ニューラル言語モデル（LMs）における言語的表現学習は、実用的および理論的な理由の両方から、何十年も研究されてきた。しかし、LMにおける表現を見つけることはいまだ未解決の問題である。これは一部には、表現に対して不 plausibly な制約（例：線形性；Arora et al., 2024）を課すことと、表現という概念そのものをすべて単純化してしまうこと（Sutter et al., 2025）との間のジレンマによる。ここでは、このジレンマを、表現を「活性化のパターン」としてではなく、「学習のための導管」として再概念化することで回避する。我々のアプローチは単純である。すなわち、LMを単一の敵対的例でファインチューニングすることにより擾乱（perturbation）を加え、その擾乱が他の例にどのように「感染」するかを測定する。擾乱は幾何学的な仮定を一切置かず、また他の手法とは異なり、（未学習のLMにおいてのように）見つけるべきでない場所に表現を見つけることもしない。しかし、学習済みのLMでは、擾乱によって複数の言語的粒度（grain sizes）にまたがる構造化された転移が明らかになる。これは、LMが表現に沿って一般化するだけでなく、経験のみから言語的な抽象化も獲得していることを示唆している。