Graph Propagated Projection Unlearning: 視覚・音声の識別モデルのための統一フレームワーク

Abstract

深層ニューラルネットワークから学習済み情報を選択的かつ効率的に消去する必要性は、プライバシー、規制順守、および適応的なシステム設計の観点から、ますます重要になっています。本稿では、視覚モデルと音声モデルの両方にまたがって動作する、クラスレベルのアンラーニングのための統一的かつスケーラブルなアルゴリズムであるGraph-Propagated Projection Unlearning（GPPU）を提案します。GPPUは、グラフベースの伝播を用いて特徴空間内のクラス固有の方向を特定し、その後に直交部分空間へ表現を射影し、さらに対象に絞ったファインチューニングを行うことで、対象クラスの情報が効果的かつ不可逆的に除去されることを保証します。CNN、Vision Transformer、Audio Transformerを含む多様なアーキテクチャにまたがり、6つの視覚データセットと2つの大規模音声ベンチマークに対して包括的な評価を行った結果、GPPUは従来手法に比べて10〜20倍の高速化を達成しつつ、保持するクラスに対してモデルの有用性を維持できることを示します。本フレームワークは、機械アンラーニングに対する、原理に基づいたモダリティ非依存のアプローチを提供し、先行研究では十分に注目されてこなかった規模で評価しています。これは、より効率的で責任ある深層学習の実現に向けた貢献となります。