最小限のデジタル・コンディショニングによる熱力学的拡散推論

要旨: 拡散モデルの推論と、過減衰ランジュバン動力学は、形式的には同一である。したがって、スコア関数を符号化する物理基盤は、デジタル演算を推論中に一切必要とすることなく、熱力学だけによって正しい出力へ平衡化する。これはGPUに比べてエネルギーを 10{,}000\times だけ削減できる可能性を持つ。これまで、この同等性が実運用規模で実現されなかったのを妨げてきた基本的な障壁は2つある。すなわち、非局所的なスキップ接続であり、局所的に結合されたアナログ基盤はこれを表現できないこと、そして入力条件付けである。入力条件付けでは、結合定数が、システムを特定の入力へ固定するための信号として、およそ 2{,}600\times だけ情報量が足りない。
私たちは両方の障壁を解決する。\emph{階層的な双線形結合} は、U-Net のスキップ接続を、エンコーダとデコーダのグラム行列の特異構造から直接導かれる、階数 k のモジュール間相互作用として符号化する。これにより、必要な物理的接続は O(D^2) ではなく O(Dk) で済む。\emph{最小デジタル・インターフェース} ― 16ユニットの転送ネットワークとともに、4次元のボトルネック・エンコーダを備え、合計で \textbf{2,560パラメータ} ― は、条件付けの障壁を克服する。学習済みのノイズ除去U-Netから引いた活性化を用いて評価すると、完全なシステムは、オラクル上限（1.0000）に対して、デコーダの余弦類似度が \textbf{0.9906} を達成しながら、GPU推論に比べて理論的な総ネットエネルギー節約が約 10^7\times 保持される。これらの結果は、学習済み重みを用いた、実運用規模の熱力学的拡散推論の初めての実証である。