EFlow：効率的なソリューションフローによる、スクラッチからの高速な少数ステップ・動画生成の学習

要旨: 動画拡散トランスフォーマーのスケーリングは、本質的に2つの相互に増幅し合うコストによってボトルネック化されます。それは、ステップごとの注意機構における高価な二次計算量と、反復的なサンプリングステップです。本研究では、これらのボトルネックを同時に解決する効率的な少ステップ学習フレームワークであるEFlowを提案します。サンプリングステップ数を削減するために、時刻tのノイズ状態から時刻sへの写像を学習する関数を学ぶ、ソリューションフロー目的に基づきます。しかし、この定式化を動画スケールで計算可能にし、高品質に保つには、2つの補完的な革新が必要です。第一に、Gated Local-Global Attention（ゲート付きローカル・グローバル注意）を提案します。これは、トークンをドロップ可能なハイブリッドブロックであり、効率的で表現力があり、攻撃的なランダム・トークンドロッピング下でも非常に安定性が高く、ステップごとの計算を大幅に削減します。第二に、効率的な少ステップ学習レシピを開発します。高価なガイダンス対象を、計算コストの安い弱いパスで置き換えるために、Path-Drop Guided学習を提案します。さらに、非常に低いステップ数でも高い忠実度を保証するために、Mean-Velocity Additivity 正則化を追加します。これらにより、我々のEFlowは、実用的なスクラッチからの学習パイプラインを可能にし、標準的なソリューションフローに比べて最大2.5倍の学習スループットを達成し、また、反復型モデルに比べて推論レイテンシを標準で45.3分の1まで低減しつつ、Kineticsおよび大規模なテキスト対動画データセットで競争力のある性能を示します。