ランダム特徴量モデルの学習誤差と汎化誤差に対するループ補正
arXiv cs.LG / 2026/4/15
💬 オピニオンIdeas & Deep AnalysisModels & Research
要点
- 本論文は、初期化アンサンブルからニューラルネットワークをサンプリングし、そのネットワークを固定して読み出し（readout）重みのみを学習するランダム特徴量モデルを研究する。
- 統計物理学および有効場の理論の観点から、平均核（無限幅）近似を超えた訓練誤差・テスト誤差・汎化誤差を解析する。
- アンサンブル平均された誤差は、誘導される平均核だけでなく、予測器がランダム核の非線形汎関数であることに起因して、高次の揺らぎの統計にも依存することを示す。
- 著者らは有限幅効果に対する「ループ補正」とそのスケーリング則を導出し、理論予測を実験によって検証する。
