PINN-Cast：連続深度NODEがトランスフォーマーと物理系損失に果たす役割を探る—短期予報における物理インフォームド損失
arXiv cs.LG / 2026/5/1
📰 ニュースIdeas & Deep AnalysisModels & Research
要点
- 本論文は、PINN-Castとして、離散的な残差更新をNeural ODE（連続時間）ダイナミクスに置き換え、適応的な数値積分で解くことで短期の天気予報向けに連続深度のトランスフォーマーエンコーダを提案している。
- パッチごとの自己注意に加えて、注意ロジットへ微分作用素を適用する補助ブランチを設ける二分岐アテンション機構を導入し、変化に敏感な追加の相互作用信号を与える。
- 予報を支配原理により整合させるため、物理的整合性をソフト制約として課すカスタムの物理インフォームド学習目的を提案する。
- 実験では、提案手法を離散型トランスフォーマー基線および既存の連続時間Neural ODE予測バリアントと比較し、PINN-Castが短期予報で有効であることを示している。
