高次元における信頼領域ベイズ最適化を再考する

arXiv stat.ML / 2026/4/28

📰 ニュースIdeas & Deep AnalysisModels & Research

共有:

要点

信頼領域ベイズ最適化（TuRBO）は高次元のブラックボックス最適化に有効だが、GPの長さスケール設計が不適切だと性能が悪化し得る。
本研究は、TuRBOの信頼領域内の局所GPが、次元 D と信頼領域サイズ L に応じて「複雑すぎる」または「単純すぎる」状態になり得ることを示す。
その問題に対処するため、カーネル幾何学と事前分布の複雑さを保つことを目的に、問題の次元と信頼領域の側長の両方でGP長さスケールをスケーリングするAdaScale-TuRBOを提案する。
合成ベンチマークおよび実世界の軌道計画タスクでの実験により、AdaScale-TuRBOは標準TuRBOや他の高次元BO手法より頑健に優れることが示される。

Abstract

信頼領域ベイズ最適化（TuRBO）は、高次元のブラックボックス最適化における次元の呪いを緩和するための効果的な戦略である。しかし、不適切な長さスケール設計は、信頼領域内の局所ガウス過程（GP）モデルを劣化させ、高次元において性能の低下につながりうる。本研究では、次元

D

と信頼領域の一辺長

L

が変化するとき、TuRBO の局所 GP は過度に複雑であったり、過度に単純であったりしうることを示す。この問題に対処するため、問題の次元と信頼領域サイズの両方に基づいて GP の長さスケールをスケーリングする、単純な変種 AdaScale-TuRBO を提案する。これによりカーネルの幾何学的性質が保たれ、事前の複雑性が一貫して維持される。実験的に、AdaScale-TuRBO が合成ベンチマークおよび実世界の軌道計画タスクにおいて、標準的な TuRBO や他の人気の高次元 BO 手法を頑健に上回ることを示す。