概要: 物理情報に基づくニューラルネットワーク（PINN）は、損失地形の等方性の欠如と急速に変化する幾何学的性質に起因して、しばしば収束が遅いこと、学習の不安定性、そして難しい偏微分方程式に対する精度の低下に悩まされます。本研究では、既存の一次最適化手法を補強する軽量な曲率認識型最適化フレームワークを提案します。このフレームワークは、secant（セカント）情報に基づく適応的な予測補正を追加することで機能します。連続する勾配の差分を、局所的な幾何学的変化の安価な代理指標として用い、補正の強さを制御するために、ステップ正規化したセカント曲率指標を併用します。このフレームワークは「プラグアンドプレイ」であり、計算効率が高く、既存の最適化手法と幅広く互換性があります。さらに、二次の行列を明示的に形成することなく実現します。多様なPDEベンチマークに関する実験では、高次元の熱方程式、Gray--Scott 系、Belousov--Zhabotinsky 系、2D Kuramoto--Sivashinsky 系を含め、標準的な最適化手法および強力なベースラインに対して、収束速度、学習の安定性、解の精度が一貫して改善されることが示されました。
物理情報ニューラルネットワークの学習のための軽量な幾何学的適応手法
arXiv cs.AI / 2026/4/20
💬 オピニオンIdeas & Deep AnalysisModels & Research
要点
- 本論文は、困難な偏微分方程式（PDE）における損失ランドスケープの異方的かつ急速に変化する幾何学に起因する、PINNの典型的な学習課題（収束の遅さ、学習不安定、精度低下）に取り組みます。
- secant（セカント）情報にもとづく適応的な予測補正を、一次（first-order）最適化手法に付加することで行う、軽量な曲率対応最適化フレームワークを提案します。
- 連続する勾配差分を局所的な幾何学変化の安価な代理指標として用い、さらに正規化したセカント曲率指標で補正の強さを制御します。
- 二次（second-order）行列を明示的に形成しないため、本手法は計算効率が高く、既存の最適化手法とも広く互換性のある「プラグアンドプレイ」型です。
- 複数のPDEベンチマークで、標準的な最適化手法や強いベースラインに比べて、収束速度・学習安定性・解の精度が一貫して改善することを示しています（高次元の熱方程式やGray--Scott系、Belousov--Zhabotinsky系、2D Kuramoto--Sivashinsky系など）。
