Training Latent Diffusion Models with Interacting Particle Algorithms

arXiv stat.ML / 3/31/2026

💬 OpinionIdeas & Deep AnalysisModels & Research

共有:

Key Points

論文は、潜在拡散モデルを“粒子ベース”の新しい手法でエンドツーエンドに学習するアルゴリズムを提案しています。
学習目標を自由エネルギー汎関数の最小化として再定式化し、その最小化を実現する勾配フローを導出しています。
この勾配フローを相互作用する粒子系で近似することで実際の学習アルゴリズムを構成し、理論的には誤差保証を与えています。
実験では、既存の粒子ベース手法や変分推論に類似した手法と比較して本手法が有利だと報告しています。

Abstract

We introduce a novel particle-based algorithm for end-to-end training of latent diffusion models. We reformulate the training task as minimizing a free energy functional and obtain a gradient flow that does so. By approximating the latter with a system of interacting particles, we obtain the algorithm, which we underpin theoretically by providing error guarantees. The novel algorithm compares favorably in experiments with previous particle-based methods and variational inference analogues.