arXiv:2603.20388v1 Announce Type: cross
要旨:我々は、n分割クロスバリデーション(CV)で調整した正則化付き経験的リスク最小化(ERM)推定量の漸近的なリスク関数を導出する。これらの推定量のアウト・オブ・サンプル予測損失は、正規平均(normal means)モデルにおける縮小(shrinkage)推定量の二乗誤差損失(リスク関数)へ、分布収束する。そのリスク関数は、ステインの無偏推定量(SURE, Stein's unbiased risk estimate)で調整されたものである。このリスク関数は、学習理論で一般的な最悪ケースのレグレット(後悔)に対する一様な上界よりも、予測性能のよりきめ細かな見取り図を与える。すなわち、それはリスクが真のパラメータに対してどのように変化するかを定量化する。主要な中間ステップとして、(i) n分割CVがSUREへ一様収束すること、(ii) SUREは通常複数の局所的最小値をもつ一方で、その大域的最小値は一般に十分に分離されること、を示す。十分な分離性により、SUREへのCVの一様収束が、CVによって選ばれる調整パラメータが、SUREによって選ばれる調整パラメータへ収束することに結び付く。




