マルチトークン予測と潜在意味強化による、一貫したワールドモデルへのアプローチ

概要: 大規模言語モデル（LLM）が首尾一貫した内部の世界モデルを発達させるかどうかは、依然として主要な議論である。従来の次トークン予測（NTP）は1ステップ先の教師信号に焦点を当てるのに対し、多トークン予測（MTP）は、より構造化された表現の学習に有望であることが示されている。本研究では、経験的証拠に支えられた理論的観点から、勾配に基づくMTPの帰納的バイアスを分析し、勾配結合によって表現の収縮性（contractivity）が誘導されることで、MTPが内部の信念状態へ向かう収束を促進することを示す。さらに、本来のMTPはしばしば構造的ハルシネーションに悩まされることを明らかにする。すなわち、離散トークンの教師信号が、潜在空間における不正な近道を促し、環境の制約に違反するのである。これに対処するため、潜在意味強調MTP（Latent Semantic Enhancement MTP; LSE-MTP）という新しい手法を提案する。これは、予測を真の隠れ状態の軌跡（ground-truth hidden state trajectories）に固定（アンカー）する。合成グラフおよび実世界のマンハッタン・タクシー・ライドに関する実験では、LSE-MTPが離散トークンと連続状態表現の間のギャップを効果的に埋め、表現の整合性を高め、構造的ハルシネーションを減らし、摂動に対する頑健性を向上させることが示される。