ノイズのあるラベルから学習するための閉ループラベル補正を用いた頑健な自己学習

arXiv cs.LG / 2026/3/17

📰 ニュースIdeas & Deep AnalysisModels & Research

要点

  • 本論文は、分離された階層型最適化に基づく自己学習用ラベル補正フレームワークを提案し、分類器とニューラル補正関数が共進化してノイズのあるラベルを頑健に扱う。
  • 少量のクリーンデータとノイズのある事後分布のシミュレーション、および中間特徴を用いて、真の知識を伝達させ、誤差の増幅を抑制する閉ループのフィードバック系を形成する。
  • このアプローチには、最適化過程の安定性に関する理論的保証が付随する。
  • CIFARとClothing1Mでの実証結果は、訓練時間を短縮しつつ最先端の性能を示し、ノイズのあるラベルから学習する際の実用性を示している。

要旨: ノイズ付きラベルを用いた深層ニューラルネットワークの訓練は依然として重要な課題であり、しばしば性能が低下します。ラベルノイズを扱う既存の手法は通常、遷移行列、ノイズ検出、またはメタラーニング技術のいずれかに依存しますが、ノイズ付きサンプルの利用効率が低く、計算コストが高くなることが多いです。 本論文では、デカップルド・バilevel最適化を用いた自己訓練によるラベル補正フレームワークを提案します。ここで、分類器とニューラル補正関数が相互に共進化します。小さなクリーンデータセットを活用し、ノイズのある事後分布のシミュレーションと中間特徴を用いて真の知識を転送し、エラーの増幅を防ぐ閉ループ型のフィードバックシステムを形成します。提案手法の安定性を裏付ける理論的保証が存在し、CIFARやClothing1Mなどのベンチマークデータセットでの広範な実験により、訓練時間を短縮しつつ最先端の性能を確認できることが示されており、ノイズ付きラベルから学習する際の実践的適用性を強調しています。