FAST: 注意機構と状態空間モデルのための相乗的フレームワークによる時空間交通予測

arXiv cs.LG / 2026/4/16

💬 オピニオンIdeas & Deep AnalysisModels & Research

要点

  • 本論文は、時空間交通予測のための統一的フレームワークであるFASTを提案する。FASTは、時間パターンに対する注意機構と、センサーネットワーク間の効率的な空間依存を扱う状態空間(Mambaベース)モデリングを組み合わせる。
  • FASTはTemporal–Spatial–Temporalアーキテクチャを用いる。時間注意により短期および長期のダイナミクスの両方を捉え、空間モジュールは線形計算量でセンサ間の関係をモデル化する。
  • 異質な交通状況に対応するため、FASTは学習可能なマルチソースの時空間埋め込みを追加し、過去の流量、時間的文脈、ノードレベル情報を融合する。
  • さらに、本モデルは階層的な特徴融合を可能にするためのマルチレベル・スキップ予測メカニズムも採用し、表現学習を改善する。
  • PeMS04/07/08での実験では、FASTは強力なTransformer、GNN、注意、Mambaの各ベースラインを上回り、最大でRMSEが4.3%低下、MAEが2.8%低下した。これは高い精度とスケーラビリティの間の強力なトレードオフを示している。

要旨: 交通予測では、大規模なセンサーネットワーク上で複雑な時系列ダイナミクスと、長距離の空間的依存関係をモデル化する必要がある。既存手法は一般に、表現力と効率の間でトレードオフが生じる。すなわち、Transformerベースのモデルはグローバルな依存関係をうまく捉える一方で二次計算量の問題があり、近年の選択的状態空間モデルは計算効率に優れるものの、グラフ構造化された交通データにおける空間的相互作用のモデリングにはあまり有効ではない。そこで本研究では、拡張可能な時空間交通予測のために、注意機構と状態空間モデリングを統合した統一フレームワークFASTを提案する。FASTは、Temporal-Spatial-Temporal(時空時)アーキテクチャを採用しており、時間方向の注意モジュールが短期および長期の時間パターンの両方を捉え、Mambaベースの空間モジュールは線形計算量で長距離のセンサ間依存をモデル化する。さらに、異質な交通状況をより適切に表現するために、FASTは、履歴の交通流、時間的文脈、ノードレベルの情報を統合する学習可能なマルチソース時空間埋め込みを導入し、階層的な特徴融合のためのマルチレベルのスキップ予測メカニズムも併せて提案する。PeMS04、PeMS07、PeMS08での実験により、FASTがTransformer、GNN、注意機構、Mambaベースのファミリからなる強力なベースラインを一貫して上回ることが示される。とりわけ、FASTは3つのベンチマークすべてで最良のMAEとRMSEを達成し、最も強いベースラインと比べてRMSEを最大4.3 ext%下回り、MAEを最大2.8 ext%下回る。これは、精度、拡張性、汎化性能の間で好ましいバランスが得られていることを示している。