ガウス分布のモーメント収束評価のための多項式・スティーン不一致

Abstract

本研究では、サンプル集合と、ベイズ推論に用いる所望の事後分布との間の不一致（discrepancy）を測定するための新しい手法を提案する。効果的サンプルサイズ（effective sample size）のようなサンプル品質を評価する古典的手法は、確率的勾配ラプラス動力学（stochastic gradient Langevin dynamics）などの、大規模化に適したベイズサンプリングアルゴリズムには適していない。これらは漸近的にバイアスを持つためである。代わりにゴールドスタンダードとなるのはカーネル・スティーン不一致（kernel Stein Discrepancy, KSD）の利用であるが、KSDはサンプル数に対して二次の計算コストがかかるため、それ自体が大規模化に向かない。さらに、KSDおよびその高速化拡張は、典型的には高次元の呪い（curse of dimensionality）にも悩まされ、広範なチューニングを要することが多い。これらの制約に対処するため、我々は多項式スティーン不一致（polynomial Stein discrepancy, PSD）と、それに関連する適合度検定を開発する。新しい検定は完全に収束を判定できるわけではないが、ガウス分布のターゲットに対しては、最初のr個のモーメントの違いを検出できることを証明する。実験的に、当該検定がいくつかの例において競合手法よりも高い検出力を持ち、かつ計算コストが低いことを示す。最後に、PSDが、競合手法よりも効率的にベイズサンプリングアルゴリズムのハイパーパラメータを選択するのに実務者を支援し得ることを示す。