SpotOptimによる最適化

arXiv cs.LG / 2026/4/16

📰 ニュースIdeas & Deep AnalysisTools & Practical UsageModels & Research

要点

  • spotoptim Pythonパッケージは、KrigingループにExpected Improvement(期待改善)によるガイダンスを組み合わせることで、高価なブラックボックス関数に対するサロゲートモデルベースの最適化を導入します。
  • 連続・整数・カテゴリ(離散)決定変数をサポートし、OCBAによるノイズを考慮した評価を含み、さらに多目的最適化への拡張も提供します。
  • このフレームワークは、目的関数の評価とサロゲートモデル探索をオーバーラップさせるために定常状態(steady-state)の並列化を用い、停滞に対して「発見成功率(success-rate)に基づくリスタート」戦略を採用しつつ、これまでに見つけた最良解を失わないようにします。
  • spotoptimは、SciPy互換のOptimizeResultオブジェクトを返し、scikit-learn互換の任意のサロゲートモデルを受け付けることで、科学技術Pythonエコシステムとの相互運用を想定しています。また、TensorBoardによるライブ監視のためのロギング機能を備えています。
  • 本論文/記事では、アーキテクチャの詳細、動作例(ニューラルネットワークのハイパーパラメータチューニングを含む)、およびBoTorch、Optuna、Ray Tune、BOHB、SMAC、Hyperoptといったツールとの比較が示されており、オープンソースです。