ODEフリーのニューラルフローマッチングによるワンステップ生成モデリング

Abstract

拡散およびフローマッチングモデルは、ノイズをデータへと輸送する積分が時間依存のベクトル場を学習することでサンプルを生成しますが、推論時には数十〜数百回のネットワーク評価が必要になります。代わりに、輸送写像を直接学習します。私たちは、ニューラルフローでフロー写像をパラメータ化する、ODE不要の生成フレームワークであるOptimal Transport Neural Flow Matching（OT-NFM）を提案します。これにより、単一のフォワードパスで真の一ステップ生成が可能になります。素朴なフロ−写像の学習では、ノイズとデータの対応（ペアリング）が不整合であるために、すべての出力がデータの平均へ向かってしまう「平均崩壊」が生じることを示します。縮退しない学習のためには一貫した結合（カップリング）が必要であることを証明し、スケーラブルなミニバッチとオンライン結合戦略による、最適輸送に基づくペアリングを用いてこの問題に対処します。合成ベンチマークおよび画像生成タスク（MNISTおよびCIFAR-10）に関する実験により、推論を単一のネットワーク評価にまで削減しつつ、競争力のあるサンプル品質が示されます。