幾何学的制御によってLLM生成におけるモード崩壊を回避する

概要: モード崩壊は生成モデルにおける持続的な課題であり、自回帰（autoregressive）のテキスト生成では、明示的なループから多様性の段階的な喪失、さらには軌道の早期収束まで、さまざまな振る舞いとして現れます。私たちはダイナミカルシステムの観点を取り入れ、モード崩壊を *幾何学的崩壊（geometric collapse）* による状態空間の到達可能性の低下として再解釈します。生成中、モデル内部の軌跡が、その表現空間における低次元の領域に閉じ込められるためです。これは、モード崩壊が単にトークン単位の現象ではなく、象徴的な制約や確率のみのデコーディングに関するヒューリスティックでは信頼性をもって解決できないことを意味します。この観点に導かれ、*強化モード調整*（Reinforced Mode Regulation: RMR）を提案します。RMRは、Transformerの価値キャッシュ（value cache）における支配的な自己強化的方向を調整する、軽量なオンライン状態空間介入であり（低ランク減衰として実装）、複数の大規模言語モデルにおいて、RMRはモード崩壊を大幅に低減し、極めて低いエントロピー率でも安定した高品質な生成を可能にします（0.8 nats/step まで）。一方で、標準的なデコーディングは通常、2.0 nats/step 付近で崩壊します。