協調的文脈付きベイズ最適化

arXiv cs.LG / 2026/4/22

📰 ニュースDeveloper Stack & InfrastructureModels & Research

共有:

要点

この論文は、標準的なベイズ最適化より難しい文脈付きベイズ最適化（CBO）に取り組みます。CBOは文脈空間から最適な設計への写像を学習する必要があり、文脈全体の探索と各文脈内の活用を同時に行うためです。
論文では、複数の（潜在的に異質な）クライアントが協調してCBOを実行できる枠組みとしてCCBO（Collaborative Contextual Bayesian Optimization）を提案します。
CCBOは、データ収集中のオンライン協調に加え、他者の過去の信念を用いたオフライン初期化に対応し、さらにオプションとしてプライバシーを保護する通信メカニズムも備えます。
著者らは理論的にサブ線形のリグレット保証を示し、シミュレーションと実世界の「ホットローリング」適用の結果から、クライアントの異質性があっても既存手法より大きな改善が得られることを示します。
結果の再現に必要なコードは、提示されたGitHubリポジトリから入手できます。

要旨: 逐次的なデータ収集によって最適な設計を見出すことは、多くの現実世界の応用において不可欠です。ベイズ最適化（BO）はこの設定で目覚ましい成功を収めてきましたが、近年、文脈に特化した最適設計へと関心が高まり、文脈付きベイズ最適化（CBO）として定式化されています。BOとは異なり、CBOは本質的により困難です。なぜなら、文脈空間からそれに対応する最適な設計への「全体の写像」を近似しなければならず、そのためには、文脈間にまたがって同時に探索を行うとともに、各文脈の内部では活用（エクスプロイト）を行う必要があるからです。多くの現代的な応用では、このようなタスクは、複数の潜在的に異質である可能性のある関連クライアントにまたがって生じます。こうした状況では、協調によって学習効率を大幅に高められます。我々は、CCBO（Collaborative Contextual Bayesian Optimization：協調的文脈付きベイズ最適化）を提案します。これは、複数のクライアントが制御可能な文脈を用いてCBOを共同で実行できるようにする統一的フレームワークであり、オンラインでの協調と、ピア（同輩）の過去の信念からのオフライン初期化の両方を支援します。さらに、任意でプライバシーを保護するための通信メカニズムも提供します。部分線形の後悔（regret）に対する保証を確立し、広範なシミュレーションおよび実世界のホットローリング応用を通じて、クライアントの異質性があっても、CCBOが既存手法に比べて実質的な改善を達成することを示します。結果を再現するためのコードは https://github.com/cchihyu/Collaborative-Contextual-Bayesian-Optimization にあります。