RG-TTA: ストリーミング時系列におけるテスト時適応のためのレジーム誘導メタ制御
arXiv cs.LG / 2026/3/31
💬 オピニオンIdeas & Deep AnalysisModels & Research
要点
- 本論文は、ストリーミング時系列のテスト時適応に対するモデル非依存のメタコントローラであるRG-TTAを提案し、入力データバッチが過去に見たレジームにどれほど類似しているかに応じて、適応の強度を調整する。
- RG-TTAは、分布ベースおよび特徴ベースのメトリクスのアンサンブル（例：コルモゴロフ–スミルノフ、Wasserstein-1、特徴距離、分散比など）を用いてレジーム類似度スコアを計算し、(a) 学習率をスケールすることと、(b) 損失駆動のアーリーストッピングによっていつ勾配更新を停止するかを決定する。
- さらに、レジームメモリからのチェックポイント再利用をゲーティングすることで効率を高め、現在のモデルに対して明確な損失改善（≥30%）を示した場合にのみ専門家モデルを読み込む。
- 複数の更新ポリシー、4つのアーキテクチャ（GRU、iTransformer、PatchTST、DLinear）、14のデータセット（実データと合成のレジームシフト）、4つの予測ホライズンを対象とする計672件のストリーミング実験において、レジーム誘導手法はしばしば最も低いMSEを達成し、RG-TTAは標準的TTAに対してMSEを5.7%削減しつつ、実行時間も約5.5%高速であった。
- 著者らは、RG-TTAを既存の勾配ベースのTTA手法（例：RG-EWCおよびRG-DynaTTA）に統合することで、構成可能性を示している。レジーム誘導による制御は、基盤となる戦略に応じて精度と計算効率の両方を改善できることが示される。
