概要: 我々は確率分布 pi からのサンプリングの問題を考察します。これが、pi からの Kullback--Leibler ダイバージェンスを最小化することを目的とする、確率分布の空間上の最適化問題として書けることはよく知られています。
我々は、pi を、幾何学的テンパリングによって定義される一連の移動するターゲット (pi_t)_{t\ge0} に置き換えたときの効果を、Wasserstein および Fisher--Rao の勾配フロー上で考察します。
我々は、連続時間において指数関数的な収束が生じることを示し、両方の場合において新しい評価(バウンド)を与えます。また、よく用いられる時間離散化についても検討し、それらの収束特性を調べます。
Fisher--Rao の場合には、ターゲット分布を、初期分布とターゲット分布の幾何平均(幾何学的)混合に置き換えても、連続時間・離散時間のいずれにおいても収束速度が速くなることは決してないことを示します。最後に、テンパリングされたダイナミクスの勾配フロー構造を探究し、新しい適応的テンパリングスケジュールを導出します。
幾何学的テンパリングの性質と限界:勾配フロー動力学における検討
arXiv stat.ML / 2026/4/23
📰 ニュースIdeas & Deep AnalysisModels & Research
要点
- 本論文は、ターゲット分布からのサンプリングを、確率分布の空間上での最適化問題として捉え、Kullback–Leiblerダイバージェンスを最小化する枠組みを示している。
- ターゲット分布を幾何学的テンパリングで定義された時間変化する「移動目標(動的ターゲット)」の系列に置き換えたとき、WassersteinおよびFisher–Raoの勾配フローがどう振る舞うかを解析している。
- 連続時間において収束が指数関数的に起こることを証明し、両ケースに対する新しい収束境界を提示している。
- よく用いられる時間離散化についても収束特性を調べ、Fisher–Raoの場合には、初期分布とターゲット分布の幾何学的混合に置き換えても連続時間・離散時間のいずれにおいても収束速度が速くならないことを示している。
- 最後に、テンパリングされたダイナミクスの勾配フロー構造を特徴づけ、実用上の改善を狙った適応的テンパリングスケジュールを導出している。




