放射状輸送による変分推論

arXiv stat.ML / 2026/4/1

💬 オピニオンIdeas & Deep AnalysisModels & Research

共有:

要点

本論文は、ガウスの代理分布（サロゲート）を用いる標準的な変分推論（VI）が、目的分布の放射方向のプロファイル（radial profile）を適切に捉えられていない場合に破綻し、被覆（coverage）が不十分になり得ると主張する。
放射状プロファイルを、位置・スケールのパラメータだけでなく明示的に扱うことでVI近似を最適化するアドオン手法として radVI を提案する。
radVI は計算コストが低く設計されており、平均場ガウスVIやラプラス近似といった既存のVI手法と互換性を持つ。
著者らは、ワッサースタイン空間での最適化と、Caffarelli 型の理論に関連する放射状輸送写像に関する新しい正則性（regularity）結果を活用することで、理論的な収束保証を提示する。
全体として本研究は、VIを放射状プロファイルの最適化問題として捉え直し、ガウス仮定が不十分となる高次元分布における近似品質の向上を目指す。

概要: 変分推論（VI）では、実務者は高次元分布 $pi$ を、しばしば（積の）ガウス分布のような単純な代理分布で近似します。しかし、実際に関心のある多くの場合において、ガウス分布は $pi$ の正しい放射方向（radial）のプロファイルを捉えられないことがあり、その結果、カバー率が不十分になります。本研究では、これらの放射方向プロファイルを最適化するという観点から VI 問題に取り組みます。提案手法 radVI は、ガウス（平均場）VI やラプラス近似など、多くの既存の VI 手法に対する安価で効果的な追加機構です。また、ウォッサースタイン空間上の最適化、すなわちウォッサースタイン距離によって与えられた確率分布の空間に関する近年の発展と、Caffarelli（2000）風の放射方向輸送写像に関する新たな正則性の性質により、アルゴリズムに対する理論的収束保証を提示します。