広告

近似動的計画法による非見修的(ノンマイオピック)グローバル最適化

arXiv stat.ML / 2026/3/30

💬 オピニオンIdeas & Deep AnalysisModels & Research

要点

  • 本論文は、勾配不要の高コストなブラックボックス関数に対するグローバル最適化を、サロゲート(代理)モデルに基づく逐次クエリ戦略として扱い、高次元設定でも効率を維持できる手法に焦点を当てている。
  • ガウス過程(GP)のサロゲートを用いるベイズ最適化は有効である一方、次元が増えるとGPに基づく計算が過大になってしまうことを指摘し、IDWやRBFのような軽量な決定論的サロゲートが動機付けられる。
  • 主要な貢献として、ロールアウトやマルチステップのシナリオ最適化といった近似動的計画法の考え方を用いて、決定論的サロゲートモデルに対する非見修的(先読み型)の獲得関数(アクイジション関数)を開発している。
  • 提案手法は、サロゲートモデルの更新(進化)を予測することで、ホライゾン(先読み期間)にわたる一連のクエリ点を選択し、貪欲(見修的)な基準を超えて探索と活用のトレードオフを明示的に改善する。
  • 合成データ、ハイパーパラメータチューニングのベンチマーク、制約付きタスク、データ駆動型の予測制御アプリケーションに関する実験により、従来の見修的戦略に比べて、より速く、より頑健な収束が示される。

要旨: 勾配情報がない高価に評価されるブラックボックス関数を最適化するための大域最適化。最もよく知られた手法の一つであるベイズ最適化は、通常、確率的な性質を活用して探索と活用のバランスを取るために、代理モデルとしてガウス過程を用いる。しかし、これらの過程は高次元空間では計算的に手に負えなくなる。最近の代替案として、逆距離重み付け(IDW)や放射基底関数(RBF)に基づく手法が、競争力のある計算負荷の低い解を提供する。効率性は高いものの、従来の大域的およびベイズ最適化の双方の戦略は、取得関数の利己的(myopic)な性質のために問題を抱えている。すなわち、それらは逐次的な意思決定過程の将来の含意を無視して、当面の改善に焦点を当てるのである。ベイズ設定向けに考案された非利己的(nonmyopic)取得関数は、長期性能の向上に向けた有望性を示している。しかし、それらと決定論的代理モデルとの組み合わせは未検討である。本研究では、近似動的計画法のパラダイムに基づき、IDWおよびRBF向けに最適化された新しい非利己的取得戦略を導入する。具体的には、ロールアウトやマルチステップのシナリオに基づく最適化スキームを含めて、先読み(lookahead)取得を可能にする。提案手法は、代理モデルの進化を予測することで、地平(ホライズン)上のクエリ点の列を最適化し、最適化技術を通じて探索と活用のトレードオフを本質的に管理する。提案手法は、これまでベイズ最適化に限られていた非利己的取得の原理を決定論的モデルへ拡張するうえで、大きな前進である。合成データおよびハイパーパラメータチューニングのベンチマーク問題、制約付き問題、ならびにデータ駆動型の予測制御アプリケーションに関する実証結果により、これらの非利己的手法が従来の利己的手法よりも優れ、より速くかつより頑健な収束が得られることが示される。

広告