罰則付き制約処理による信頼領域付き制約付きベイズ最適化

arXiv stat.ML / 2026/3/26

💬 オピニオンIdeas & Deep AnalysisModels & Research

要点

  • 本論文は、高次元でコストの高いブラックボックスの制約付き問題に対して、制約違反に対する罰則を用いて制約付き課題を非制約課題へと変換することで適用可能なベイズ最適化手法を提案する。
  • この罰則に基づく定式化に、信頼領域戦略を組み合わせ、候補探索を現在の最良解の近傍といった局所領域に限定することで、安定性と効率を高める。
  • 手法はサロゲートモデルと信頼領域内で用いる獲得関数としてExpected Improvement(期待改善)を活用し、改善の見込みと不確実性のバランスを取る。
  • 合成データおよび実世界の高次元制約付き最適化ベンチマークでの実験により、本アプローチが、より少ない評価回数で高品質な実行可能解を見つけられること、またシナリオ間で頑健な性能を維持できることが示される。

概要: 高次元のブラックボックス設定における制約付き最適化は、評価が高コストであること、勾配情報がないこと、そして複雑な可行性領域であることにより困難です。本研究では、ペナルティ定式化、サロゲートモデル、トラストリージョン戦略を組み合わせたベイズ最適化手法を提案します。制約付き問題は、制約違反をペナルティ化することで無制約形式へ変換し、統一的なモデリングの枠組みを提供します。トラストリージョンは、現在の最良解の周りの局所領域に探索を制限することで、高次元における安定性と効率を向上させます。この領域内で、改善と不確実性のバランスを取りながら評価点を選択するために、Expected Improvement(期待改善)獲得関数を用います。提案するトラストリージョン法は、ペナルティに基づく制約の扱いと局所サロゲートモデリングを統合します。この組み合わせにより、サンプル効率を維持しつつ可行領域の効率的な探索が可能になります。提案手法を、合成データおよび実世界の高次元制約付き最適化問題に対して、最先端の手法と比較します。その結果、本手法はより少ない評価回数で高品質な可行解を見出し、さまざまな設定において安定した性能を維持することが示されました。

罰則付き制約処理による信頼領域付き制約付きベイズ最適化 | AI Navigate