CoSToM：大規模言語モデルにおける本質的な心の理論（ToM）整合のための因果志向ステアリング

Abstract

Theory of Mind（ToM、他者に対して心的状態を帰属させる能力）は、社会的知能の特徴である。大規模言語モデル（LLM）は標準的なToMベンチマークにおいて有望な性能を示す一方で、複雑な、タスク固有の状況に対してはしばしばうまく一般化できず、推論を模倣するためにプロンプトの足場（prompt scaffolding）に大きく依存していることが観察される。内部知識と外部挙動の間にある決定的な不整合は、根本的な疑問を投げかける。すなわち、LLMは本当に固有の認知（intrinsic cognition）を持っているのか、そしてこの内部知識を安定した高品質な振る舞いとして外部に実現できるのか、という問いである。これに答えるために我々は、CoSToM（Causal-oriented Steering for ToM alignment、ToMアラインメントのための因果指向ステアリング）を提案する。これは、機構論的解釈から能動的介入へと移行する枠組みである。まず因果トレーシングを用いてToM特徴の内部分布を対応付け、基本的なToMセマンティクスを符号化する上での内部層の特性を経験的に明らかにする。さらに、この洞察に基づき、これらのToMにクリティカルな層に対する狙いを定めた活性化のステアリング（targeted activation steering）によって、軽量なアラインメント枠組みを実装する。実験の結果、CoSToMは人間らしい社会的推論能力および下流の対話品質を大幅に向上させることが示される。