構造的アラインメントとしての情報：継続学習の力学的理論

Abstract

壊滅的忘却は工学的な失敗ではありません。それは、知識をグローバルなパラメータの重ね合わせとして保存することの、数学的な帰結です。正則化、リプレイ、固定されたサブネットワークといった既存手法は、共有パラメータ基盤に対して外部のメカニズムを追加します。しかし、記憶保持を学習ダイナミクスそのものから導出したものはありません。 本論文では、継続学習のための代替基盤である情報蓄積フレームワーク（IBF）を導入します。これは、「情報は保存された内容ではなく、構造的な整合の達成である」という前提に基づきます。IBFでは、2つの方程式がダイナミクスを支配します。すなわち、構成をより高いコヒーレンスへと駆動する運動の法則と、局所的な不一致に応答してコヒーレンスの地形を持続的に変形する修正ダイナミクスです。記憶、代理性、自己修正は、これらのダイナミクスから生じ、別個のモジュールとして付け加えられるのではありません。 まず、透明な2次元の玩具モデルで全ライフサイクルを示し、その後、3つの領域で検証します。制御された非定常な世界、Stockfishによって独立に評価されたチェス、固定されたViTエンコーダを用いたSplit-CIFAR-100です。3つのいずれにおいても、IBFは、生データを保存することなく、リプレイに優る保持を達成します。CIFAR-100ではほぼゼロの忘却（BT = -0.004）を観測し、チェスでは正の後向き転移（+38.5 cp）を示し、制御領域ではリプレイよりも忘却が43%少ないことを確認します。チェスにおいては、同フレームワークは独立評価下で平均的な行動上の優位性を+88.9 +/- 2.8 cpとして達成し、MLPおよびリプレイのベースラインを上回ります。