継続学習のための Elastic Weight Consolidation を正しく実装する

要約: 継続学習（CL）における重み正則化手法は、重要なモデルの重みの変化を評価し、それにペナルティを科すことによって、破局的忘却を緩和します。Elastic Weight Consolidation (EWC) は、この枠組みの中で基礎的かつ広く用いられる手法で、重みの重要性を勾配に基づいて推定します。しかし、これまで一貫して最適な性能を示していませんでした。本論文では、EWCにおける重要度推定を勾配ベースの視点から体系的に分析します。初めて、EWCがFisher情報量行列（FIM）に依存することが、特定の状況下で勾配の消失と重要度推定の不正確さを招くことを明らかにします。私たちの分析は、EWCの派生手法であるMemory Aware Synapses（MAS）が、過去のタスクに関連しないパラメータに過剰な制約を課すことを明らかにし、これを「冗長な保護」と呼びます。したがって、EWCおよびその派生手法は、重みの重要性を推定する際に根本的な齟齬を示し、性能が劣る結果になります。これらの問題に対処するため、Logits Reversal（LR）操作を提案します。これはシンプルでありながら有効な修正で、EWCの重要度推定を是正します。具体的には、FIMの計算中にロジット値を反転させることで、勾配の消失と冗長な保護の両方を効果的に防ぐことができます。さまざまなCLタスクとデータセットにわたる広範な実験は、提案手法が既存のEWCおよびその派生手法を大幅に上回ることを示しています。したがって、これを EWC Done Right (EWC-DR) と呼ぶことにします。