局所打ち切り誤差ガイド付きニューラルODEによる大規模交通予測

arXiv cs.LG / 2026/5/6

📰 ニュースSignals & Early TrendsIdeas & Deep AnalysisModels & Research

要点

  • 本論文は、連続的なマクロな交通リズムに加えて離散的で予測不能なショック事象が起こる状況で、時空間交通予測を改善する「Local Truncation Error-Guided Neural ODEs(LTE-ODE)」を提案する。
  • 数学的に、従来の物理インフォームド手法のうち、数値積分誤差を厳密に罰して滑らかなマニフォールド性を強制する方法は、勾配の競合や「attention collapse」を引き起こし、異常への感度を低下させ得ることを示す。
  • LTE-ODEは局所打ち切り誤差(LTE)を、教師なしの順方向・帰納バイアスとして再利用し、LTEを動的な空間アテンションマスクへ写像することで、安定領域では高精度な連続的ニューラルODEの進化を保つ。
  • ショック点ではみに適応的に離散的な補償ブランチを起動し、マニフォールドペナルティなしでエンドツーエンド学習を行う。
  • 複数の大規模ベンチマークで最先端性能を報告し、強い非線形変動へのロバスト性に加えて、統合ステップ数のアブレーションにより、実運用でのメモリ制約の違いにシームレスに適応できる柔軟性も示している。

Abstract

大規模な交通ネットワークのような物理システムにおける時空間予測では、連続的な巨視的リズムと離散的で予測不能な微視的ショックという、二重のダイナミクスをモデリングする必要があります。ニューラル常微分方程式(ODE)は滑らかな進化の捉え方に優れていますが、その内在的なリプシッツ連続性の制約は、急激な異常に直面すると必然的に深刻な過度平滑化を引き起こします。近年、数値積分誤差を罰則化して多様体の滑らかさを強制することで、この問題を回避しようとする物理インフォームド手法が提案されています。しかし本研究では、こうした硬直した正則化が本質的に勾配の衝突と「アテンションの崩壊」を誘発し、モデルから異常への感度を奪ってしまうことを、数学的に明らかにします。この「連続性対ショック」のジレンマを解決するために、局所打ち切り誤差ガイド付きニューラルODE(LTE-ODE)を提案します。数値誤差を取り除くべき厄介者として扱うのではなく、局所打ち切り誤差(LTE)を教師なしのフォワードな帰納的バイアスとして新たに活用します。LTEを動的な空間アテンションマスクへと写像することで、提案アーキテクチャは安定領域において高精度な連続ODEの進化を巧みに維持しつつ、ショック点に限って離散的な補償ブランチを適応的に発火させます。多様体に対する罰則を用いず、エンドツーエンドで純粋に学習したLTE-ODEは、複数の大規模ベンチマークで最先端の性能を達成し、強い非線形変動に対して卓越した頑健性を示します。さらに、積分ステップに関するアブレーションにより、高いデプロイの柔軟性も実証され、実世界のアプリケーションにおいて、さまざまなハードウェアのメモリ制約に対してモデルがシームレスに適応できることが示されます。