言語モデルのステアリングに関する円筒表現仮説

概要: ステアリングは、大規模言語モデルを制御するために広く用いられている手法ですが、その効果はしばしば不安定で、予測が難しいです。既存の理論的説明は主として線形表現仮説（LRH）に基づいています。LRHは、制御を損失なく行うために概念を直交化できると仮定していますが、この理想化された写像は実際の表現では成り立たず、ステアリングの観測される予測不能性を説明できません。LRHの直交性の仮定を緩めつつ線形表現は維持することで、概念への寄与が重なり合うことにより、自然にサンプル固有の軸直交構造が得られることを示します。これを円筒表現仮説（CRH）として形式化します。CRHでは、中心軸が概念の不在と存在の主な違いを捉え、概念生成を駆動します。周囲の法線平面は、軸が目標の概念をどれほど容易に活性化できるかを決めることで、ステアリングの感度を制御します。この平面内では、特定の感度の高いセクタのみが概念の活性化を強く促進し、その他のセクタはそれを抑制したり遅延させたりし得ます。周囲の法線平面は差分ベクトルから確実に同定できますが、感度の高いセクタは同定できません。そのため、セクタのレベルで固有の不確実性が生じます。この不確実性は、整合の取れた方向を用いているにもかかわらず、ステアリングの結果がしばしば揺らぐ理由を、原理に基づいて説明します。実験により円筒構造の存在を検証し、CRHが実際の状況におけるモデルのステアリング挙動を解釈するための妥当かつ実用的な方法を提供することを示します: https://github.com/mbzuai-nlp/CRH。