持続的な勾配アラインメントがマルチステップ設定でのサブリミナル学習を仲介する：MNIST 補助ロジット蒸留実験からの証拠

概要: MNISTの補助ロジット蒸留実験では、学生は、クラスなし（no-class）のロジットのみを蒸留しているにもかかわらず、「潜在的学習（subliminal learning）」と呼ばれる現象により、意図しない教師の特性を獲得してしまうことがあります。単一ステップの勾配降下（single-step gradient descent）という仮定のもとで、潜在的学習の理論はこの効果を、特性と蒸留勾配との間の整合（alignment）によるものだと説明しますが、この整合が多ステップ設定でも持続することは保証しません。私たちは経験的に、勾配の整合が学習の全期間を通じて弱いながらも一貫して正であり、それが特性の獲得に因果的に寄与していることを示します。整合を減衰させることで機能する対策手法である「リミナル学習（liminal training）」が、この設定では整合を抑えることで動作する一方、特性の獲得を止めることには失敗することを示します。これらの結果は、一次の駆動（first-order drive）が支配的なこの領域で動作する対策手法は、特性の獲得を確実に抑制できない可能性があることを示唆しています。