Abstract
近年の機械アンラーニングの進歩は、学習済みモデルから特定の学習サンプルを削除するためのアルゴリズムの開発に焦点を当ててきました。対照的に、どのモデルも同じように簡単にアンラーニングできるわけではないことを、私たちは観察します。そこで、アンラーニング中に非パラメトリックな振る舞いを示す深い半パラメトリック・モデル(SPM)のファミリーを提案します。SPMは、各学習サンプルからの情報を集約するフュージョン・モジュールを用いることで、モデルのパラメータを変更することなく、選択したサンプルの明示的なテスト時削除を可能にします。実験的に、SPMは画像分類および生成において、パラメトリック・モデルに対して競争力のあるタスク性能を達成しつつ、アンラーニングのためには大幅に効率的であることを示します。特に、ImageNet分類では、SPMは再学習(オラクル)ベースラインに対する予測ギャップを11\%縮小し、パラメトリック・モデルに対する既存手法と比べて10倍以上高速なアンラーニングを実現します。コードは https://github.com/amberyzheng/spm_unlearning で公開されています。