CastFlow：時系列予測のための役割特化型エージェント的ワークフローの学習

Abstract

近年、大規模言語モデル（LLM）が時系列予測において大きな可能性を示しています。しかし、既存のLLMベースの予測手法のほとんどは、歴史的な観測値を将来の値へ直接写像する単一パスの静的な生成パラダイムに依然として従っています。このパラダイムでは、限られた時間的パターン抽出、文脈特徴量の単回取得、ワンショットの予測生成、アンサンブル予測からのサポート欠如といった制約により、予測が制限されます。これらの制限に対処するため、本研究では、複数ビューによる時間的パターン抽出、多ラウンドの文脈特徴量獲得、反復的な予測の精緻化、アンサンブル予測による予測を可能にする動的なエージェント型予測フレームワークCastFlowを提案します。まず、CastFlowは予測プロセスを計画、行動、予測、そして省察に整理し、エージェント型のワークフローを確立します。次に、このワークフローは、過去の経験を取得するメモリモジュールと、診断的な証拠を構築し、信頼できるアンサンブル予測のベースラインを提供するマルチビュー・ツールキットによって支えられます。第三に、CastFlowは、汎用的な推論と専門的な数値予測を組み合わせる役割特化型の設計を採用しています。この設計のもとでは、凍結したLLMが汎用的な推論を保持し、一方で微調整済みのドメイン特化LLMが、ゼロから行うのではなく、アンサンブル予測のベースラインに基づく証拠ガイド付きの数値予測を実行します。微調整済みのドメイン特化LLMを最適化するために、さらに、教師あり微調整（SFT）と検証可能な報酬を用いた強化学習（RLVR）を組み合わせる、二段階のワークフロー指向トレーニングを開発します。CastFlowの有効性を評価するために、多様なデータセットに対して大規模な実験を実施し、強力なベースラインに対して優れた総合結果を達成することを示します。本研究が、より適応的で正確な時系列予測に向けた一歩となることを期待しています。