Salt：高速ビデオ生成のための、キャッシュを考慮した自己整合（Self-Consistent）ディストリビューションマッチング

要旨: 推論予算を極端に低くした（例: 2--4 NFEs）動画生成モデルの蒸留は、リアルタイム展開にとって重要ですが、依然として困難です。軌跡スタイルの一貫性蒸留は、複雑な動画ダイナミクスの下ではしばしば保守的になり、その結果として過度に平滑化された見た目や弱いモーションが生じます。分布整合蒸留（DMD）はシャープでモードを求めるサンプルを回復できますが、その局所的な学習信号は、ノイズ除去更新がタイムステップをまたいでどのように合成されるかを明示的に正則化しません。そのため、合成されたロールアウトはドリフトしやすくなります。
この課題を克服するために、本研究では、連続するノイズ除去更新のエンドポイント整合的な合成を明示的に正則化する自己整合分布整合蒸留（SC-DMD）を提案します。リアルタイム自己回帰動画生成のために、さらにKVキャッシュを品質をパラメータ化した条件として扱い、キャッシュ分布を考慮した学習（Cache-Distribution-Aware training）を提案します。この学習方式では、SC-DMDを多ステップのロールアウトに適用し、キャッシュ条件付きの特徴アライメント目的を導入することで、低品質な出力を高品質な参照へと導きます。非自己回帰のバックボーン（例: Wan~2.1）と自己回帰のリアルタイム・パラダイム（例: Self Forcing）の両方に関する広範な実験において、本手法は \\textbf{Salt} と称され、低-NFE動画生成の品質を一貫して向上させつつ、さまざまなKVキャッシュ・メモリ機構とも両立可能です。ソースコードは \\href{https://github.com/XingtongGe/Salt}{https://github.com/XingtongGe/Salt} で公開予定です。