分離したノイズ付きデータ多様体における拡散生成モデルの時間条件付けを探る

Abstract

実務的には、拡散モデルの学習では、ネットワークをノイズ除去のサンプリング過程へ導くために、明示的な時間条件付けを行うことが典型的に必要です。特にDDIMのような決定論的手法では、時間条件付けがないことによって大幅な性能低下が生じます。しかし、フローマッチングのような他の決定論的サンプリング手法では、この条件付けなしで高品質なコンテンツを生成できるため、その必要性が問題となります。本研究では、時間条件付けの役割を幾何学的な観点から改めて検討します。前向き拡散過程におけるノイズ付きデータ分布の進化を解析し、高次元空間ではこれらの分布が、入力空間内に埋め込まれた低次元の超円筒（ハイパー・シリンダー）状の多様体へと集中することを示します。生成が成功する理由は、高次元空間においてこれらの多様体がほどけて（分離して）表現されることに起因すると、我々は主張します。この洞察に基づき、DDIMの前向き過程を、フローマッチングのアプローチに合わせて、ノイズ付きデータ多様体がフローマッチング方式に従って進化するならば、時間条件付けなしでもDDIMが高品質なコンテンツを生成できることを証明します。さらに、我々の枠組みをクラス条件付き生成へ拡張します。クラスを異なる時間空間へデカップリング（分離）することで、クラス非条件のノイズ除去モデルを用いたまま、クラス条件付き合成を可能にします。広範な実験により理論解析が裏付けられ、明示的な条件付き埋め込みを用いなくても高品質な生成が達成可能であることが示されます。