Masked Autoencoderによる不規則な時間ステップを用いた時空間システム予測

概要: 不規則な時刻ステップを持つ高次元の動的システムを予測することは、現在のデータ駆動型アルゴリズムにとって大きな課題です。これらの不規則性は、データの欠損、観測の疎な状態、または適応的な計算手法によって生じ、予測精度を低下させます。これらの制約に対処するために、私たちは新しい方法として「Physics-Spatiotemporal Masked Autoencoder（物理・時空間マスクオートエンコーダ）」を提案します。この方法は、空間特徴抽出のための畳み込みオートエンコーダと、不規則な時系列に最適化されたマスクオートエンコーダを統合し、注意機構を活用して単一の予測パスで物理シーケンス全体を再構成します。モデルはデータの補完（imputation）を必要とせず、システムの物理的整合性を保持します。ここでいう「physics（物理）」は、明示的な物理制約やPDE残差の強制ではなく、基盤となる動的システムによって生成される高次元の場を指します。私たちは、このアプローチを複数のシミュレーションデータセットと、実世界の海洋温度データで評価します。その結果、従来の畳み込みネットワークや再帰型ネットワークの手法と比べて、予測精度、非線形性への頑健性、計算効率において大幅な改善が得られることを示しました。本モデルは、領域固有の知識を必要とせずに、複雑な時空間パターンを捉える可能性を持ち、気候モデリング、流体力学、海洋予測、環境モニタリング、科学計算などへの応用が期待できます。