次元間の相関モデリングを強化した変分オートエンコーディング離散拡散

要旨: 離散拡散モデルは、複雑な離散データをモデリングするうえで大きな可能性を最近示しており、マスク付き拡散モデル（MDM）は、品質と生成速度の間の説得力のあるトレードオフを提供するものとして注目されています。MDMは、全てをマスクした入力から複数の次元を段階的にアンマスクしていくことでノイズ除去を行いますが、少数のノイズ除去ステップを用いる場合、次元間の依存関係のモデリングが限られているため性能が低下し得ます。本論文では、離散拡散を潜在変数モデリングで強化し、次元間の相関を暗黙的に捉える、新しい枠組みである変分オートエンコーダ型離散拡散（VADD: Variational Autoencoding Discrete Diffusion）を提案します。補助的な認識モデルを導入することで、VADDは変分下限の最大化と学習集合に対する償却推論により、安定した学習を可能にします。提案手法は、従来のMDMの効率を維持しつつ、特にノイズ除去ステップ数が少ない場合に、サンプル品質を大幅に向上させます。2Dの玩具データ、ピクセルレベルの画像生成、そしてテキスト生成に関する実験結果は、VADDが少数のノイズ除去ステップにおいて、サンプル品質の面でMDMのベースラインを一貫して上回ることを示しています。