Shape of Memory：2次最適化における機械アンラーニングの幾何学的解析
arXiv cs.LG / 2026/4/28
📰 ニュースIdeas & Deep AnalysisModels & Research
要点
- 本論文は、機械アンラーニングの既存の定義が、2次最適化手法の挙動を十分に考慮できていないと主張している。
- データ削除（アンラーニング）の状況で、損失モデルにおける「記憶」を模倣するために固有分解の程度を変えながら、1次と2次の学習器を比較している。
- 両者とも性能と勾配の点では理想的な反事実に再整合する一方、2次最適化はオプティマイザ状態に大きな揺らぎ（ボラティリティ）を示す。
- これは、削除されたはずの残留情報があり、1次分析では検出できない可能性を示している。
- 安定性と情報の喪失は、幾何学的情報（メモリ）を消去するように状態擾乱を制御した場合にのみ回復する。
