NTKニューラルネットワークの敵対的ロバスト性

arXiv cs.LG / 2026/4/30

💬 オピニオンIdeas & Deep AnalysisModels & Research

要点

  • 本論文は、非パラメトリック回帰においてNTK(Neural Tangent Kernel)ニューラルネットワークが敵対的攻撃に対してどのように振る舞うかを分析する。
  • Sobolev関数空間上での敵対的回帰について、最小最大(minimax)での最適な収束率を導出する。
  • 勾配フローとアーリーストッピングで訓練したNTKニューラルネットワークが、この最適な敵対的ロバスト性の達成につながることを示す。
  • 過学習(過剰適合)・補間の領域では、最小ノルム補間解が敵対的摂動に対して脆弱になることを証明する。

要旨: 深層学習モデルは安全性が重要な領域に広く導入されていますが、敵対的攻撃に対して脆弱であり続けています。本論文では、ノンパラメトリック回帰の文脈におけるNTKニューラルネットワークの敵対的頑健性を研究します。Sobolev空間における敵対的回帰について、ミニマックス最適なレートを確立し、さらに、勾配フローにより早期終了で学習したNTKニューラルネットワークがこの最適レートを達成できることを示します。しかし、過学習の領域においては、最小ノルム補間子が敵対的摂動に対して脆弱であることを証明します。