ポテンシャルUをもつ指数型確率測度に対する定量的なラプラス型収束結果:2つの応用

arXiv stat.ML / 2026/4/29

💬 オピニオンIdeas & Deep AnalysisModels & Research

要点

  • 本論文は、温度ε→0における密度が exp[-U(x)/ε] に比例する確率測度のラプラス型(小ノイズ)収束を扱います。
  • Uの古典的なヘッセ行列の可逆性を仮定せず、代わりに一般化ジャコビアンの可逆性条件を用いて、極限分布π₀との間でWasserstein距離(1次)の定量的な境界を導出します。
  • 分析はノルム型(norm-like)ポテンシャルUに焦点を当て、証明の重要要素として測度論・幾何学的測度論の手法、とりわけコアエ公式を用います。
  • 応用として、最大エントロピーモデル(ミクロカノニカル/マクロカノニカル分布)の収束と、非凸最適化における低温下でのSGLD反復の収束が示されます。

Abstract

ラプラス型の結果は、温度 00 に収束するとき、ルベーグ測度に対する密度 (\mathrm{d} \pi_\varepsilon / \mathrm{d} \mathrm{Leb})(x) \propto \exp[-U(x)/\varepsilon] をもつ確率測度の列 (\pi_\varepsilon)_{\varepsilon >0} の極限を特徴づける。極限分布 \pi_0 が存在するなら、それはポテンシャル U の最小化点に集中する。古典的な結果では、このような漸近挙動を確立するために、U のヘシアンの可逆性が必要である。本研究では、ノルム型(norm-like)ポテンシャル U の特別な場合を扱い、一般化されたヤコビアンの可逆性という条件のもとで、ワッサースタイン距離(1次)のもとでの \pi_\varepsilon\pi_0 の間の定量的な評価を導出する。我々の証明の重要な要素の一つは、積分幾何学(geometric measure theory)の道具、例えば共面積公式(coarea formula)の使用である。さらに、我々はこれらの結果を、最大エントロピー・モデル(ミクロカノニカル/マクロカノニカル分布)の研究、および非凸な最小化における低温でのストキャスティック勾配ランジュバンジ(Stochastic Gradient Langevin Dynamics: SGLD)アルゴリズムの反復の収束の解析に適用する。