外生共変量を用いたゼロショット予測のための時間認識型事前適合ネットワーク

要旨: 多くの時系列予測の設定では、対象となる時系列には外生的共変量が伴います。例えば、小売需要におけるプロモーションや価格、エネルギー負荷における温度、交通量や売上に関するカレンダー・祝日指標、電力価格設定における系統負荷や燃料コストなどです。これらの外生信号を無視すると、予測精度は著しく低下する可能性があり、特にそれらがターゲット系列にスパイクや不連続性、あるいはレジームや位相の変化を生じさせる場合にはそうなる。現在の多くの時系列基盤モデル（例：Chronos、Sundial、TimesFM、TimeMoE、TimeLLM、LagLlamaなど）は外生共変量を考慮せず、数値的な時系列履歴のみから予測を行うため、性能が制限されます。本論文では、事前データ適合ネットワーク（PFN）で、従来のPFNとは異なり時系列を意識したApolloPFNを提案し、外生共変量をネイティブに組み込む従来の単変量予測器とは異なる設計とします。本設計には2つの主要な進展をもたらします：（i）時系列データに適用された際に、表形式（非時系列）PFNで生じる故障モードを解決するよう特化した合成データ生成手順；および（ii）時系列コンテキストを活用するために必要な帰納的バイアスを埋め込む時系列対応のアーキテクチャ変更。 ApolloPFN が、外生情報を含むベンチマーク、例えばM5データセットや電力価格予測などで最先端の成果を達成することを示します。