Abstract
Nonlinear Parametric Optimization Network(NLPOpt-Net)は、制約付き非線形計画問題(NLP)を解くための教師なし学習アーキテクチャである。NLPの構造が与えられると、保証された制約充足を伴うパラメトリックな解マップを学習する。このアーキテクチャは、バックボーンのニューラルネットワーク(NN)に続いて、マルチレイヤー(k層付き)の射影を備える。NNは、修正ラグランジアンに基づく損失関数と整合性損失を組み合わせたものにより最適性へと導く一方で、射影は元の制約マニフォールド上でNNの予測を射影することで実現可能性を保証する。典型的な距離の最小化の代わりに、本研究の射影は元のNLPの局所的な二次近似を利用する。ある種の条件(例えば凸性)では、射影は降下性(descent property)を持ち、それによってNNの予測がさらに改善される。NLPOpt-Netは、順伝播時に制約付き二次射影を解くための、反転不要の修正Chambolle-Pockアルゴリズムを採用し、効率的な逆伝播には陰関数定理を用いる。さらに、射影の固定された構造により、学習完了後はNNと射影を切り離すことが可能になる。NLPOpt-Netは、大規模な凸QP、QCQP、NLP、非凸問題を、ほぼゼロの最適性ギャップと、制約違反が機械精度にまで低減された状態で解く。加えて、アクティブ集合および対応する双対変数をほぼ正確に予測できるため、多パラメトリック計画法に対するスケーラブルなアプローチを可能にする。射影をCでコンパイルすることで、JAXと比べて推論時間がオーダー桁で改善される。我々は、GPUサポートを含む、すぐに利用できるパッケージとしてコードとNLPOpt-Netを提供する。