一般化されたρ事後分布の変分近似による頑健なベイズ推論
arXiv stat.ML / 2026/3/27
💬 オピニオンIdeas & Deep AnalysisModels & Research
要点
- 本論文では、競合するパラメータに対する上限（supremum）をソフトマックスによる集約で置き換えた、ρ事後分布の“緩和（softened）”版である ilde{rho}-事後分布を導入する。
- ilde{rho}-事後分布に対してPACベイズ理論を展開し、有限サンプルのオラクル不等式を、明示的な収束率とともに証明する。また、モデルのミススペシフィケーションやデータ汚染に対する頑健性も示す。
- 著者らは、これらのオラクル不等式を ilde{rho}-事後分布の変分近似へ拡張し、計算可能な推論に対する保証を与える。
- 指数族、回帰、実データにまたがる実験により、変分手法が理論と整合する形で頑健性を達成しつつ、標準的な変分ベイズと同程度の計算コストであることを示す。
