Subagging の厳密な有限サンプル分散分解：スペクトル・フィルタリングの観点から
arXiv cs.LG / 2026/4/14
💬 オピニオンIdeas & Deep AnalysisModels & Research
要点
- 本論文は、Hoeffding-ANOVA フレームワークを用いて subagging に対する最初の厳密な有限サンプル分散分解を与えるものであり、漸近性や滑らかさの仮定なしに、任意の対称なベース学習器を対象とする。
- subagging を、決定論的な低域通過（low-pass）型のスペクトルフィルタとして特徴づけ、低次数の構造的信号を保持しつつ、c 次の相互作用分散を幾何学的な因子によって減衰させ、その因子は α^c に近づく。
- 分析により、一般に用いられるデフォルトのリサンプリング比が、高容量な補間（interpolating）モデルに対して高次の雑音を十分に正則化できない（under-regularize）理由が説明される。これらのモデルでは、紛れ込んだ高次のノイズを指数関数的に抑制するために、より小さい α が必要となる。
- 著者らは、学習器の複雑性スペクトルに基づいて α を調整する、複雑性ガイド付きの適応的サブサンプリング手法を提案し、実験では静的なベースラインに比べて汎化性能が改善することを示す。
