OTSS:文脈に応じた意思決定の重み学習のための出力ターゲット付きソフトセグメンテーション

arXiv cs.LG / 2026/5/4

📰 ニュースIdeas & Deep AnalysisModels & Research

要点

  • この論文は、最適化器向けの重みベクトル w(x) を、直接の方策や汎用的な予測スコアではなく、解釈可能な意思決定因子 z(x,d) 上で学習する「文脈に応じた意思決定重み学習」を扱います。
  • 提案手法OTSS(Output-Targeted Soft Segmentation)は、意思決定因子に対してパーソナライズされた意思決定用の重みを出力するモデルで、ハード分割とソフト分割の違いに関する理論を示します。
  • 理論的には、分割の重なりがある場合にハード分割が近似と推定のトレードオフで不利になり得る一方、実現可能な固定Kのソフトクラスは近似の下限を回避でき、パラメトリックな学習率を達成すると述べています。
  • 真の重みと下流の後悔(regret)を厳密に計算できる統制ベンチマークでは、OTSSが比較手法に対して平均regretが最小となり、係数回復ではEMと同等でありながら約2桁の高速化を示します。
  • マッチしたK=5の設定や実データの小売「Complete Journey」アンカー課題でもOTSSは競争力を保ち、報告された実験では平均regretの点推定で最良の結果を得ています。

Abstract

多くの機械学習システムは、因数分解された目的関数を最適化することで制約付きの意思決定を行いますが、文脈依存の目的関数はしばしば固定のものとして扱われます。私たちは、文脈に応じた意思決定に対する重み学習(contextual decision-weight learning)を研究します。すなわち、記録された意思決定と代理出力(proxy outputs)から、直接の方策や汎用の予測スコアではなく、解釈可能な意思決定因子 z(x,d) に対する、オプティマイザが扱える重みベクトル w(x) を学習します。 提案するのは OTSS(output-targeted soft-segmentation)です。これは、パーソナライズされた意思決定準備済みの重みベクトルを展開する、出力ターゲットに着目したソフト・セグメンテーション・モデルです。関数クラスのレベルでは、理論により「ハード対ソフト」の区別が明確になります。重なりがある場合、ハードな分割は近似と推定のトレードオフを招きます。一方で、実現可能な固定Kのソフト・クラスでは、ハード分割の近似下限を取り除くことができ、パラメトリックなレートが達成されます。 評価では、有限の評価ライブラリを用いた制御されたベンチマークで OTSS を検証します。このとき、真の重みベクトルと下流の後悔(regret)を正確に計算できます。代表的な重なり設定において、OTSS は比較対象の中で最も低い平均後悔を達成します。比較には、EM mixture regression や、本比較における最強のソフト・ミクスチャ基準であるものも含まれます。OTSS は係数の回復に関して EM と同等の性能を示しつつ、実行速度は約2桁(100倍程度)速いです。 一致した K=5 のベンチマークでも、OTSS はハードにルーティングされた真値のもとで競争力を維持し、異質性がよりソフトになり、サンプルサイズが増えるにつれて改善します。実際の世帯共変量と行動(アクション)の幾何構造を用いた、固定の Complete Journey の小売アンカーにおいても、OTSS は最も低い平均後悔の点推定を再び達成します。