幻覚（ハルシネーション）盆地：LLMの幻覚を理解し制御するための動的フレームワーク

Abstract

大規模言語モデル（LLM）は幻覚（hallucinate）します。つまり、事実としては誤っているにもかかわらず、流暢な出力を生成するのです。私たちは、潜在空間におけるタスク依存のバシン（basin）構造から幻覚が生じることを説明する、幾何学的動的システムの枠組みを提示します。複数のオープンソースモデルとベンチマークにわたる自己回帰的な隠れ状態の軌跡を用いて、分離可能性は普遍的というよりも強くタスク依存であることを見いだします。事実断片（factoid）の設定では、より明瞭なバシン分離が見られる場合がある一方で、要約（summarization）や誤概念（misconception）を多く含む設定では、典型的に安定性が低く、互いに重なり合うことが多いです。私たちは、この挙動をタスク複雑性と多バシン定理（multi-basin theorems）によって形式化し、L層トランスフォーマにおけるバシンの出現を特徴づけ、幾何学に配慮したステアリング（steering）によって再学習なしで幻覚の確率を低減できることを示します。