題目:Curveball Steering: 操舵（ステア）に正しい方向は常に線形ではない

要旨:アクティベーション・ステアリング（Activation steering）は、内部表現に介入することで大規模言語モデル（LLM）の挙動を制御するために広く用いられている手法である。既存の手法の多くは、行動属性は大域的な線形方向を用いることで操作できると仮定する「線形表現仮説（Linear Representation Hypothesis）」に大きく依存している。しかし実際には、こうした線形介入はしばしば一貫性に欠ける。そこで我々は、LLMアクティベーション空間の内在的な幾何（intrinsic geometry）を解析することで、この仮定を検証する。測地距離とユークリッド距離の比によって幾何歪み（geometric distortion）を測定すると、概念（コンセプト）に依存した大きな歪みが観測され、アクティベーション空間が大域的な線形幾何によって十分に近似されていないことを示唆する。これに動機づけられ、本研究では「Curveball steering」と呼ぶ非線形のステアリング手法を提案する。これは多項式カーネルPCAに基づき、特徴空間で介入を行うことで、学習されたアクティベーション幾何をより適切に尊重する。Curveball steeringは、線形PCAベースのステアリングに対して一貫して優れており、特に幾何歪みが強い領域ではその傾向が顕著である。したがって、幾何を考慮した非線形ステアリングは、大域的な線形介入に対する原理に基づく代替手段となることが示される。

ブックマーク

書誌および引用ツール

この記事に関連付けられたコード、データ、メディア

デモ

レコメンダーと検索ツール