高度に適応的な主成分回帰（Highly Adaptive Principal Component Regression）
arXiv stat.ML / 2026/5/6
💬 オピニオンIdeas & Deep AnalysisModels & Research
要点
- この論文は、Highly Adaptive Lasso（HAL）の考え方を発展させ、高次元での計算負荷を下げる主成分版としてPCHALとPCHARを提案します。
- 新しい推定器は、HALの基底に対してアウトカムに依存しない主成分による次元削減を適用し、計算を大幅に効率化しつつ、実験ではHAL/HARと同等に近い性能を示します。
- 著者らは、早期終了付きの勾配降下法による変種も提案しており、主成分の「硬いカットオフ」を明示的に選ぶことなく、滑らかなスペクトル正則化として機能します。
- さらに理論的な関係として、特別な条件下ではHALカーネルがブラウン運動の共分散関数と一致することを明らかにします。
