Abstract
近年、物理インフォームドニューラルネットワーク(PINNs)は微分方程式の解法として大きな注目を集めているものの、2つの根本的な制約、すなわちニューラルネットワークに固有のスペクトル・バイアスと、マルチスケール現象に起因する損失の不均衡に悩まされています。本論文では、局在した高振幅のソース項をもつ問題に特徴的な極端な損失不均衡に対処するため、適応型ウェーブレットベースPINN(AW-PINN)を提案します。こうした問題は、熱処理、電磁気学、衝撃(インパクト)力学、ならびに局在的な強制力を伴う流体力学など、さまざまな物理応用でしばしば現れます。提案する枠組みは、残差および教師あり損失に基づいてウェーブレット基底関数を動的に調整します。この適応性により、AW-PINNはメモリ負荷を増やすことなく高スケールの特徴をもつ問題を効果的に扱えます。さらにAW-PINNは、損失関数に含まれる導関数を得るために自動微分に依存しないため、学習プロセスが加速されます。提案手法は2段階で動作し、第1に、固定した基底による短い事前学習フェーズで物理的に妥当なウェーブレット族を選択し、続いて第2に、スケールと並進を適応的に洗練(リファイン)する段階を行います。この際、高解像度の基底を領域全体にわたって展開することなく適応します。理論的には、一定の仮定の下でAW-PINNがガウス過程の極限を受け入れ、その関連するNTK構造を導出できることを示します。AW-PINNを、局在した高振幅のソース項をもち、損失不均衡の比が最大10^{10}:1に達する、いくつかの困難なPDEに対して評価します。過渡的な熱伝導、強く局在化したポアソン問題、振動する流れの方程式、点電荷源をもつマクスウェル方程式など、これらのPDEにおいてAW-PINNは、そのクラスにおける既存手法を一貫して上回ります。