運動学的相互作用粒子付きラグランジュン・モンテカルロ（KIPLMC）

arXiv stat.ML / 2026/4/17

💬 オピニオンIdeas & Deep AnalysisModels & Research

共有:

要点

本論文は、潜在変数モデルにおける統計推論のために、相互作用する非弾性（underdamped）ラグランジュン拡散を用いる手法 Kinetic Interacting Particle Langevin Monte Carlo（KIPLMC）を提案する。
パラメータと潜在変数の両方の空間で同時に進行する拡散を構築し、その定常分布がパラメータの周辺対数尤度最大推定の周りに集中することを示す。
拡散の実用的な離散化として2つのアルゴリズムを提示し、潜在変数とパラメータに対して同時に強い凹性が成り立つ場合に、Wasserstein-2距離での非漸近的な収束率を与える。
数値実験により、次元依存が改善される形で収束が加速されることを示し、無教師学習・統計推論・逆問題など幅広い応用を扱う。

Abstract

本論文は、潜在変数モデルにおける統計的推論のために、相互作用する過減衰でない（underdamped）Langevinアルゴリズムを導入し解析する。これを、運動学的相互作用粒子Langevinモンテカルロ（Kinetic Interacting Particle Langevin Monte Carlo; KIPLMC）法と呼ぶ。本論文では、パラメータ空間と潜在変数空間の両方で同時に進行する拡散過程を提案し、この拡散の定常分布がパラメータに関する周辺尤度（marginal likelihood）の最大推定量の周りに集中することを示す。さらに、この拡散を実用的なアルゴリズムとして実現するための、2つの明示的な離散化を提示し、統計モデルのパラメータ推定に用いる。各アルゴリズムについて、結合対数尤度が潜在変数およびパラメータに関して強く凹（strongly concave）である場合に、Wasserstein-2距離における非漸近的（nonasymptotic）な収束率を得る。次元依存性が明確に改善されていることを示し、加速された収束率を達成する。導入した手法の有用性を示すために、統計的推論において提案する拡散が有効であることを示す数値実験を提示する。本設定は、教師なし学習、統計的推論、逆問題など、多岐にわたる応用を包含する。