局所的な高強度ソースを扱う適応型ウェーブレットベースPINN

arXiv cs.LG / 2026/5/1

📰 ニュースDeveloper Stack & InfrastructureModels & Research

要点

  • 物理インフォームドニューラルネットワーク(PINN)は、スペクトルバイアスとマルチスケールに起因するロス不均衡という2つの基本的な制約があり、特に局所的に大きいソース項を持つPDEで顕著になります。
  • 提案手法の適応型ウェーブレットベースPINN(AW-PINN)は、残差と教師ありロスをもとにウェーブレット基底を動的に調整し、メモリ負荷を抑えつつ局所的な高スケール特徴の扱いを改善します。
  • AW-PINNはロス計算に必要な導関数を自動微分に頼らずに求めるため、計算コストを下げて学習を高速化します。
  • 学習は2段階で行い、まず固定基底で短い事前学習を行って物理的に適切なウェーブレット族を選び、その後にスケールと並進を適応的に改良して、全領域に高解像度基底を敷かずに必要な箇所へ集中させます。
  • 理論面ではガウス過程極限とNTK構造を導出し、さらにロス不均衡比が最大10^10:1の難しいPDE(熱伝導、局所化ポアソン、振動する流れ、点電荷ソースを持つマクスウェル方程式など)で同クラス手法を一貫して上回ると報告しています。

Abstract

近年、物理インフォームドニューラルネットワーク(PINNs)は微分方程式の解法として大きな注目を集めているものの、2つの根本的な制約、すなわちニューラルネットワークに固有のスペクトル・バイアスと、マルチスケール現象に起因する損失の不均衡に悩まされています。本論文では、局在した高振幅のソース項をもつ問題に特徴的な極端な損失不均衡に対処するため、適応型ウェーブレットベースPINN(AW-PINN)を提案します。こうした問題は、熱処理、電磁気学、衝撃(インパクト)力学、ならびに局在的な強制力を伴う流体力学など、さまざまな物理応用でしばしば現れます。提案する枠組みは、残差および教師あり損失に基づいてウェーブレット基底関数を動的に調整します。この適応性により、AW-PINNはメモリ負荷を増やすことなく高スケールの特徴をもつ問題を効果的に扱えます。さらにAW-PINNは、損失関数に含まれる導関数を得るために自動微分に依存しないため、学習プロセスが加速されます。提案手法は2段階で動作し、第1に、固定した基底による短い事前学習フェーズで物理的に妥当なウェーブレット族を選択し、続いて第2に、スケールと並進を適応的に洗練(リファイン)する段階を行います。この際、高解像度の基底を領域全体にわたって展開することなく適応します。理論的には、一定の仮定の下でAW-PINNがガウス過程の極限を受け入れ、その関連するNTK構造を導出できることを示します。AW-PINNを、局在した高振幅のソース項をもち、損失不均衡の比が最大10^{10}:1に達する、いくつかの困難なPDEに対して評価します。過渡的な熱伝導、強く局在化したポアソン問題、振動する流れの方程式、点電荷源をもつマクスウェル方程式など、これらのPDEにおいてAW-PINNは、そのクラスにおける既存手法を一貫して上回ります。