概要: ノイズによって摂動された有限回の評価によって、関数 f の大域的最大化を行う問題を研究します。本研究では、非常に弱い仮定として、ある大域的最大点の近傍において、ある半距離（あるいは半計量）に関して局所的に滑らかであること（厳密な意味で）を置きます。一般の空間におけるバンディットに関する先行研究（Kleinberg et al., 2008; Bubeck et al., 2011a）と比べて、本手法はこの半距離の知識を必要としません。本手法 StoSOO は楽観的戦略に従い、関数領域の階層的分割にわたって上側の信頼区間上界を逐次的に構成することで、次にどの点をサンプルするかを決定します。StoSOO の有限時間解析により、関数の局所的滑らかさが既知でない場合でも、本手法は、特に調整された最良のアルゴリズムにほぼ匹敵する性能を発揮することが示されます。
確率的同時楽観最適化
arXiv stat.ML / 2026/4/28
💬 オピニオンIdeas & Deep AnalysisModels & Research
要点
- この論文は、評価回数が有限である状況で、ノイズが加わった目的関数をどのようにして大域的に最大化するかを扱います。
- 仮定は非常に弱く、関数が大域的最大値の近傍で局所的に滑らかであること（半距離に基づく所定の意味で）に限られます。
- 提案手法StoSOOは楽観的アプローチを用い、階層的な分割と上側信頼限界を構成することで、次にサンプリングする点を決定します。
- 半距離の知識が不要であるにもかかわらず、有限時間解析により、特別にチューニングされた最良アルゴリズムにほぼ匹敵する性能を示します。
