訓練済み拡散モデルにおける非平衡相転移がパターン形成を誘発する方法

arXiv cs.LG / 2026/3/23

💬 オピニオンSignals & Early TrendsIdeas & Deep AnalysisModels & Research

要点

  • 著者らは逆拡散過程を非平衡相転移として捉えるアプローチを提案する。小さな空間的ゆらぎがノイズからデータへと滑らかに進化するのではなく、大規模な構造を種として増幅される。
  • 局所性、疎性、並進等価性といったアーキテクチャ上の制約は、記憶化による不安定性を整合的な空間モードへと変換し、訓練データを超えたパターン形成を可能にする。
  • 解析的に扱いやすいパッチスコアモデルを用いて、古典的な対称性破れ分岐が、フーリエモードの緩和(ソフトニング)と相関長の増大によって空間的に拡張された臨界現象へ一般化され、ギンツブルグ–ランドゥ型の有効場理論へと結びつくことを示す。
  • 訓練済み畳み込み拡散モデルに対する実証結果は、モードのソフトニングや急速に増大する空間相関といった臨界性の兆候を明らかにすることで、理論を裏付ける。
  • 本研究は実践的な関連性を示す。推定された臨界時間における分類器なしガイダンスのパルスのような標的化された摂動が、生成制御を大幅に改善できる。

要約: 本研究では、訓練済み拡散モデルの生成過程を、非平衡状態の相転移の一例として解釈する理論的枠組みを提案します。私たちは、ノイズからデータへと滑らかに進化するのではなく、逆拡散が臨界的な領域を通過し、微小な空間的ゆらぎが増幅されて大規模構造の出現を種として生じると主張します。私たちの中核的洞察は、局所性、疎性、平行移動に対する共変性といった構造的制約が、記憶依存の不安定性を集合的な空間モードへと変換し、訓練データを超えたコヒーレントなパターンの形成を可能にするということです。解析的に扱いやすいパッチスコアモデルを用いて、古典的な対称性破れの分岐が、フーリエモードの軟化と相関長の増大によって記述される、空間的に拡張された臨界現象へ一般化することを示します。さらに、これらのダイナミクスをギンツブルグ–ランドゥール型の有効場理論および非平衡物理におけるパターン形成のメカニズムへ結び付けます。訓練済み畳み込み拡散モデルに関する実証的な結果は理論を裏付け、臨界性の指標として、モードの軟化と空間相関の急速な増大を明らかにします。最後に、この臨界的領域が実践的な関連性を持つことを示します。推定された臨界時点で適用される分類器なしガイダンス・パルスのような標的摂動は、生成の制御を著しく向上させます。これらの結果は、非平衡臨界現象を、現代の拡散モデルの挙動を理解し、潜在的に改善するための統一的な原理として位置づけるものです。