Safety-Guided Flow（SGF）：安全な生成におけるネガティブガイダンスの統一フレームワーク

要約：拡散モデルとフロー模型の安全機構は、最近、二つの異なる道筋に沿って開発されてきました。ロボット計画では、生成軌道を障害物から遠ざけるよう、各デノイジングステップで幾何的制約を明示的に課すことで、制御バリア関数が用いられます。並行して、最近のデータ駆動型のネガティブガイダンス手法は、有害な内容を抑制し、生成サンプルの多様性を促進することが示されています。しかし、それらはヒューリスティクスに依存しており、安全ガイダンスが実際に必要な時期を明確には示していません。本論文では、画像生成タスクのための最大平均差異（Maximum Mean Discrepancy、MMD）ポテンシャルを用いた統一的確率フレームワークを初めに導入し、Shielded DiffusionとSafe Denoiserの双方を、未安全データサンプルに対する私たちのエネルギーベースのネガティブガイダンスのインスタンスとして再解釈します。さらに、制御バリア関数の解析を活用して、ネガティブガイダンスが強くなるべき臨界的な時間窓の存在を正当化します。この窓の外では、安全で高品質な生成を保証するためにガイダンスはゼロへ減衰すべきです。私たちは、いくつかの現実的な安全生成シナリオで統一フレームワークを評価し、ネガティブガイダンスはデノイジングプロセスの初期段階で適用されるべきであることを、成功した安全生成を確保することを確認しました。