GeoPAS:連続ブラックボックス最適化におけるアルゴリズム選択のための幾何学的プロービング

arXiv cs.LG / 2026/4/13

💬 オピニオンIdeas & Deep AnalysisModels & Research

要点

  • 本論文では、連続ブラックボックス最適化における自動アルゴリズム選択のための幾何学的プロービング手法であるGeoPASを提案し、位置・向き・対数スケールにまたがる複数の粗い2Dスライスから問題表現を構築する。
  • GeoPASは、共有された妥当性を考慮する畳み込みエンコーダを用いて各スライスを埋め込み、スライスのスケールおよび振幅の統計量で埋め込みを条件付けし、順列不変な方法でそれらを集約して対数スケールでのソルバ性能を予測する。
  • このアプローチはリスクを考慮しており、裾(テール)失敗を対象とする明示的なペナルティを組み込み、平均性能に不釣り合いに大きく影響する不調な結果を減らすことを目指す。
  • COCO/BBOBベンチマークで、次元2〜10において12個のソルバからなるポートフォリオを用いると、GeoPASは、leave-instance-out・grouped random・leave-problem-outの評価のいずれにおいても、最良の単一ソルバを上回る。
  • 著者らは、複数スケールの幾何学的スライスはアルゴリズム選択の静的なシグナルとしてよく転移する一方で、少数の重い裾のレジームが平均性能を支配していることを見出し、さらなる頑健性の余地があることを示している。

要旨: 連続ブラックボックス最適化における自動アルゴリズム選択は、通常、限られた探索予算のもとで算出した固定のランドスケープ記述子に依存しますが、そのような記述子は、問題分割(problem-split)やクロスベンチマーク評価において劣化し得ます。本研究では、ジオメトリック・プロービング(geometric probing)アプローチであるGeoPASを提案します。GeoPASは、問題インスタンスを、位置、向き、対数スケールにまたがってサンプリングされた複数の粗い2次元スライスによって表現します。共有された、有効性(validity)を考慮する畳み込みエンコーダが各スライスを埋め込み(embedding)へ写像し、スライスのスケールと振幅の統計量で条件付けし、その後、得られた特徴を順列不変に集約します。これにより、対数スケールでの性能予測に基づいて、テール失敗に対する明示的なペナルティを伴うリスクを考慮したソルバ選択が可能になります。次元2--10における12ソルバのポートフォリオを用いたCOCO/BBOBで、GeoPASは、leave-instance-out(インスタンスを1つ外す)評価、grouped random(グループ化したランダム)評価、およびleave-problem-out(問題を1つ外す)評価において、単一の最良ソルバを上回ります。これらの結果は、多スケールの幾何学的スライスが、アルゴリズム選択に対して有用な転移可能な静的シグナルを提供し得ることを示唆しています。一方で、少数の重い裾(heavy-tail)レジームが残存しており、平均を支配し続けています。私たちのコードは
\href{https://github.com/BradWangW/GeoPAS}{GitHub}
で公開されています。