MMD を用いた加重量子化：勾配フローによる平均場から平均シフトへ

arXiv stat.ML / 2026/4/3

💬 オピニオンIdeas & Deep AnalysisModels & Research

共有:

要点

本論文は、一般的なワッサースタイン距離ではなく、最大平均差異（MMD）を用いて、ディラック粒子の加重集合（量子化）によって目標の確率分布を近似する方法を研究する。
ワッサースタイン＝フィッシャー＝ラオ勾配フローが、MMD 最適な量子化を設計するための原理的な手段を与えることを主張し、その勾配フローを相互作用する粒子の ODE システムで離散化できることを示す。
この枠組みに基づき、著者らは新しい固定点法である mean shift interacting particles（MSIP）を導出し、カーネル密度推定におけるモード探索で使われる古典的な平均シフトを拡張することを示す。
本研究は MSIP を、前処理付き勾配降下の一種として、またクラスタリングにおけるロイド（Lloyd）のアルゴリズムの緩和としても解釈し、複数の確立された考えを 1 つの理論で結び付ける。
高次元で多峰性の設定に対する数値実験により、得られるアルゴリズムが既存の最先端手法よりも頑健であることが示唆される。