SHIFT: 敵対的ハイブリッド微調整による動画拡散モデルの運動整合性

要旨：
画像条件付きのビデオ拡散モデルは顕著な視覚的リアリズムを実現しますが、しばしば動きの忠実度が低下します。例えば、動きのダイナミクスの低下や長期的な時間的一貫性の劣化が生じ、特にファインチューニング後には顕著です。
私たちは、トレーニング後のビデオ拡散モデルにおける動きの整合性の問題を調査します。
この問題を解決するために、ピクセルフラックスのダイナミクスに基づくピクセル運動報酬を導入し、瞬時的な動きの一貫性と長期的な動きの一貫性の両方を捉えます。
さらに、Smooth Hybrid Fine-tuning (SHIFT) という、ビデオ拡散モデル向けのスケーラブルな報酬駆動ファインチューニングフレームワークを提案します。
SHIFT は通常の教師ありファインチューニングとアドバンテージ重み付きファインチューニングを統一されたフレームワークに融合します。
新たな敵対的利点を活用することで、SHIFT は収束速度を向上させ、報酬ハッキングを緩和します。
実験では、私たちのアプローチが現代のビデオ拡散モデルの監視付きファインチューニングにおける動的度の崩壊を効率的に解決することを示しています。