ドリフティングに基づくボルツマン分布のワンステップサンプラー

arXiv cs.LG / 2026/3/19

📰 ニュースIdeas & Deep AnalysisModels & Research

要点

  • 本論文は、対象分布へサンプルを移動させるワンステップのニューラル生成器を学習することで、ボルツマン分布のサンプリングを低コスト化するドリフティングベースのフレームワークを提案します。
  • 未知の正規化定数までしか指定されていないターゲットを扱うために、平滑化されたエネルギーから実用的なドリフトを導出し、局所的な重要度サンプリングに基づく平均シフト推定量と曲率補正を施した二次近似を用います。
  • トレーニングでは、サンプラー側の平滑化されたスコアのミニバッチのガウス平均シフト推定を用い、安定したワンステップ訓練のための単純な勾配停止(stop-gradient)目的関数を提供します。
  • 4モードのガウス混合ボルツマンターゲット、ならびにダブルウェルおよびバナナ幾何形状での経験的結果は、平均と共分散の正確性および低いMMDを示し、ドリフティングが反復的サンプリングを単一の前方伝播に置換する有効な手段であることを示しています。

概要: 本研究は、エネルギー関数によって定義されるボルツマン分布のアモルタイズドサンプリングのための漂移ベースのフレームワークを提示します。本手法は、現在のモデル分布からガウス平滑化されたスコア場に沿ってサンプルを投影することにより、1ステップのニューラルジェネレータを訓練し、ターゲットのボルツマン分布へ向かいます。未知の正規化定数までしか指定されていないターゲットに対しては、平滑化されたエネルギーから実用的なターゲット側のドリフトを導出し、2つの推定量を用います:局所重要度サンプリングによる平均シフト推定量と二次の曲率補正近似。サンプラー側の平滑化されたスコアのミニバッチガウス平均シフト推定と組み合わせることで、安定した1ステップ訓練のための単純なストップグラデーション目的関数を得ます。4モードのガウス混合ボルツマンターゲットに対して、我々のサンプラーは平均誤差 0.0754、共分散誤差 0.0425、および RBF MMD 0.0020 を達成します。追加のダブルウェルおよびバナナ型ターゲットは、同じ定式化が非凸で曲線の低エネルギー幾何学にも対処できることを示しています。全体として、結果は漂移を、ボルツマン分布からの反復サンプリングをテスト時の単一の前方パスへと償却する有効な方法として支持します。