ワンステップ・スコアベース密度比推定

arXiv stat.ML / 2026/4/14

📰 ニュースSignals & Early TrendsIdeas & Deep AnalysisModels & Research

要点

  • 密度推定、継続的KLおよび相互情報量推定、ならびにOOD(分布外)近傍検出に関する実験により、OS-DREは従来のDRE手法と比べて良好な品質–効率のトレードオフを実現することが示される。

要旨: 密度比推定(Density ratio estimation; DRE)は、確率分布間の相違を定量化するための有用な手法ですが、既存のアプローチはしばしば推定品質と計算効率の間でトレードオフが生じます。古典的な直接型DRE手法は通常、推論時に効率的ですが、分布間の相違が大きい場合にはその性能が深刻に悪化することがあります。これに対して、スコアベースのDRE手法は、そのような設定でより正確な推定を得られることが多い一方で、通常、かなりの反復的な関数評価と数値積分を必要とします。私たちは、これらの補完的な利点を組み合わせることを目的とした、部分的に解析的でソルバ不要の枠組みであるOne-step Score-based Density Ratio Estimation(OS-DRE)を提案します。OS-DREは時間スコアを空間成分と時間成分に分解し、後者を解析的な放射基底関数(Radial Basis Function; RBF)フレームで表現します。この定式化により、もともと扱いが困難な時間積分が閉形式の重み付き和に変換されるため、数値ソルバの必要がなくなり、関数評価は1回だけでDREが可能になります。さらに、解析的フレームに対する近似条件を分析し、既存の近似理論に基づいて、有界および無限に滑らかな時間カーネルの両方に対する近似誤差の上界を確立します。密度推定、継続的Kullback-Leiblerおよび相互情報量推定、ならびに分布外に近い検出にまたがる実験により、OS-DREが推定品質と推論効率の間で好ましいバランスを提供することを示します。