NLPOpt-Net:実行可能性保証を伴う非線形最適化のための学習手法

arXiv cs.LG / 2026/5/4

📰 ニュースDeveloper Stack & InfrastructureModels & Research

要点

  • NLPOpt-Netは、制約付き非線形計画問題を解くための教師なし学習アーキテクチャであり、制約充足を保証しつつパラメトリックな解写像を学習します。
  • この手法は、修正ラグランジアンに基づく損失で最適化するバックボーンのニューラルネットワークと、局所的な2次近似にもとづいて予測を元の制約マニフォールドへ射影する多層プロジェクションを組み合わせています。
  • 前向き計算では反転を伴わない修正Chambolle–Pockアルゴリズムで制約付き2次射影を解き、誤差逆伝播では暗黙関数の定理を用いて効率的に学習します。
  • 大規模な凸QP/QCQP、NLP、ならびに非凸の一部の問題に対して、最適性ギャップがほぼゼロで、制約違反が機械精度まで低減されることに加え、アクティブ集合と対応する双対変数を高精度に予測できると報告しています。
  • GPUサポート付きの利用可能なパッケージを提供しており、プロジェクションをCでコンパイルすることでJAXに比べて推論時間が桁違いに改善する旨を述べています。

Abstract

Nonlinear Parametric Optimization Network(NLPOpt-Net)は、制約付き非線形計画問題(NLP)を解くための教師なし学習アーキテクチャである。NLPの構造が与えられると、保証された制約充足を伴うパラメトリックな解マップを学習する。このアーキテクチャは、バックボーンのニューラルネットワーク(NN)に続いて、マルチレイヤー(k層付き)の射影を備える。NNは、修正ラグランジアンに基づく損失関数と整合性損失を組み合わせたものにより最適性へと導く一方で、射影は元の制約マニフォールド上でNNの予測を射影することで実現可能性を保証する。典型的な距離の最小化の代わりに、本研究の射影は元のNLPの局所的な二次近似を利用する。ある種の条件(例えば凸性)では、射影は降下性(descent property)を持ち、それによってNNの予測がさらに改善される。NLPOpt-Netは、順伝播時に制約付き二次射影を解くための、反転不要の修正Chambolle-Pockアルゴリズムを採用し、効率的な逆伝播には陰関数定理を用いる。さらに、射影の固定された構造により、学習完了後はNNと射影を切り離すことが可能になる。NLPOpt-Netは、大規模な凸QP、QCQP、NLP、非凸問題を、ほぼゼロの最適性ギャップと、制約違反が機械精度にまで低減された状態で解く。加えて、アクティブ集合および対応する双対変数をほぼ正確に予測できるため、多パラメトリック計画法に対するスケーラブルなアプローチを可能にする。射影をCでコンパイルすることで、JAXと比べて推論時間がオーダー桁で改善される。我々は、GPUサポートを含む、すぐに利用できるパッケージとしてコードとNLPOpt-Netを提供する。