In-Place Test-Time Training

要旨: 静的な「訓練してからデプロイする」パラダイムは、現実世界のタスクに固有の、新たな情報が連続的に流れ込む状況に応じて大規模言語モデル（LLM）がその重みを動的に適応させることを、本質的に根本から制限してしまいます。テスト時学習（TTT）は、推論時にモデルの一部パラメータ（高速重み）を更新することで有力な代替手段となりますが、現在のLLMエコシステムにおけるその潜在力は、建築（アーキテクチャ）上の非互換、計算の非効率、言語モデリングに対する高速重みの目的の不整合といった重要な障壁によって制約されています。本研究では、LLMにテスト時学習能力をシームレスに付与するフレームワークとして、インプレース・テスト時学習（In-Place TTT）を提案します。In-Place TTTでは、広く使われているMLPブロックの最終射影行列を、その適応可能な高速重みとして扱い、コストの高いゼロからの再訓練なしに、LLMに対する「そのまま差し込める（drop-in）」強化を可能にします。さらに、TTTの汎用的な再構成目的を、自己回帰型言語モデリングを統括する次トークン予測タスクに明確に整合した、理論的に裏付けられた目的に置き換えます。この原理に基づく目的と、効率的なチャンク単位の更新メカニズムを組み合わせることで、コンテキスト並列性と両立可能な、非常にスケーラブルなアルゴリズムが得られます。大規模な実験により、本フレームワークの有効性が検証されています。インプレースの拡張として用いる場合、4Bパラメータのモデルが、最大128kまでのコンテキストを伴うタスクで優れた性能を達成できることが示されました。また、事前学習をゼロから行う場合には、競合するTTT関連手法を一貫して上回ります。アブレーション研究の結果も、設計上の選択に関するより深い洞察を提供します。総合すると、我々の結果は、LLMにおける継続学習のパラダイムに向けた有望な一歩として、In-Place TTTを位置付けるものです。