知識の劣化と忘却の巻き戻しに対して頑健な継続的アンラーニング

要旨: AI産業の成長とプライバシー保護の必要性とのバランスを取る手段として、機械アンラーニングは人工知能における「忘れられる権利（right to be forgotten）」を実現するうえで重要な役割を果たします。この技術により、AIシステムは特定のデータの影響を取り除きつつ、残りの学習済み知識は保持できます。これまで活発に研究されてきたものの、既存の多くのアンラーニング手法は、アンラーニングが1回だけ実行されることを前提としています。本研究では、アンラーニングが繰り返し実施される、より現実的なシナリオにおいて既存のアンラーニングアルゴリズムを評価し、この設定下で2つの重要な現象を特定します: (1) 知識の浸食（Knowledge Erosion）— アンラーニングの各フェーズを経るごとに、保持データに対する精度が段階的に低下する現象、そして (2) 忘却の反転（Forgetting Reversal）— 以前に忘れられたサンプルが、後のフェーズで再び認識可能になる現象です。これらの課題に対処するために、SAFER（StAbility-preserving Forgetting with Effective Regularization；有効な正則化による表現安定性の保持を伴う忘却）を提案します。SAFERは、保持データに対して表現の安定性を維持しつつ、忘却データに対して負のロジット・マージンを強制する、継続的アンラーニングの枠組みです。大規模な実験の結果、SAFERは知識の浸食だけでなく忘却の反転も軽減し、複数のアンラーニングフェーズにわたって安定した性能を達成することが示されました。