加重ベイズ・コンフォーマル予測

arXiv cs.LG / 2026/4/9

📰 ニュースSignals & Early TrendsIdeas & Deep AnalysisModels & Research

要点

  • 本論文は、分布シフト下での重要度(importance)加重設定に対して、ベイズ積分(Bayesian Quadrature)に基づくコンフォーマル予測を拡張する形で、加重ベイズ・コンフォーマル予測(WBCP)を提案する。
  • BQ-CPで用いられていた一様なディリクレ(Dirichlet)事後分布を、Kishの有効サンプルサイズ(n_eff)と重要度重みでパラメータ化した加重ディリクレ事前分布に置き換える。これにより、従来の事前ベイズ・コンフォーマル予測研究における i.i.d. と依存の制約(i.i.d.-dependent limitation)を解消する。
  • 著者らは、n_eff が頻度論(frequentist)とベイズの分散を一致させる条件に結び付く結果を証明する。加えて、事後の不確実性が O(1/√n_eff) の速さで縮小することを示し、確率的優越(stochastic dominance)やデータ条件付きのカバレッジ保証を拡張する。
  • 空間問題に対しては、WBCP をカーネルに基づく空間重みを用いる Geographical BQ-CP として具体化し、位置ごとの事後分布と解釈可能な診断指標を得る。
  • 合成データおよび実データの双方での実験により、WBCP がカバレッジ保証を維持しつつ、従来の(頻度論的な)加重コンフォーマル手法よりもデータ条件付きの不確実性を豊かに提供することが示される。

要旨: 共形予測(conformal prediction)は、分布非依存の予測区間を提供し、有限標本での被覆(カバレッジ)保証を持ちます。そしてSnell \& Griffithsによる最近の研究は、それをベイズ積分(Bayesian Quadrature; BQ-CP)として再構成し、閾値に対するディリクレ分布(Dirichlet)の事後分布によって強力なデータ条件付きの保証を得ています。しかし、BQ-CPは本質的に i.i.d.(独立同分布)の仮定を必要とします――この制約は著者自身も認めています。一方、重み付き共形予測(weighted conformal prediction)は、重要度(importance)重みによって分布シフトを扱いますが、頻度論的な枠組みのままであり、点推定としての閾値しか与えません。そこで本研究では、\textbf{重み付きベイズ共形予測(Weighted Bayesian Conformal Prediction; WBCP)}を提案します。これは、一様なディリクレ分布 \Dir(1,\ldots,1) を、Kishの有効標本サイズである
eff
を用いた重み付きディリクレ分布 \Dir(
eff \cdot \tilde{w}_1, \ldots,
eff \cdot \tilde{w}_n)
に置き換えることで、BQ-CPを任意の重要度重み付き設定へと一般化するものです。私たちは4つの理論結果を証明します: (1)~
eff
は、頻度論的分散とベイズ的分散を一致させる唯一の集中パラメータであること;(2)~事後標準偏差が O(1/\sqrt{
eff})
の速度で減衰すること;(3)~BQ-CPの確率的優越(stochastic dominance)の保証が、重みプロファイルごとのデータ条件付き保証へ拡張されること;(4)~HPD(highest posterior density)閾値が、条件付き被覆において O(1/\sqrt{
eff})
の改善を与えること。私たちは、WBCPを空間予測に対して \emph{地理的BQ-CP(Geographical BQ-CP)}として具体化します。ここでは、カーネルに基づく空間重みが、解釈可能な診断を伴う各地点の事後分布を生成します。合成データおよび実世界の空間データに対する実験により、WBCPが被覆保証を維持しつつ、はるかに豊富な不確実性情報を提供することを示します。