時空間物理系の表現学習

概要: 機械学習アプローチによる時空間物理系には主に次フレーム予測に焦点が当てられており、系の時間的進化を正確にエミュレータすることを目標としています。しかし、これらのエミュレータの訓練は計算コストが高く、自己回帰的ロールアウト中の累積誤差のような性能の落とし穴にさらされます。本研究では異なる視点を取り、次のフレームを予測することよりも、系を支配する物理パラメータの推定といった、次の段階よりも下流の科学的タスクを検討します。これらのタスクにおける精度は、これらのモデルの表現が物理的にどれだけ意味を持つかを、独自に定量的に垣間見る手掛かりを提供します。私たちは、下流の科学的タスクに有用な物理に基づく表現を学習する際の、汎用的な自己教師付き学習法の有効性を評価します。 驚くべきことに、物理モデリングのために設計されたすべての手法が、これらのタスクで汎用的な自己教師付き学習法を上回るわけではなく、潜在空間で学習する手法（例: 結合埋め込み予測アーキテクチャ、あるいは JEPAs）は、ピクセルレベルの予測目的を最適化する手法よりも優れていることが分かりました。コードは https://github.com/helenqu/physical-representation-learning で入手可能です。