継続的な知識グラフ埋め込みにおける壊滅的忘却を再検討する

arXiv cs.LG / 2026/4/22

📰 ニュースModels & Research

要点

  • 本論文は、知識グラフが時間とともに進化する際に、継続的な知識グラフ埋め込み(CKGE)モデルが「壊滅的忘却」を起こす理由を調べます。
  • 著者らは、既存のCKGE手法や評価が不完全であり、新しく追加されたエンティティの埋め込みが既存の学習済み表現を妨害する「エンティティ干渉」という別の失敗モードを主に見落としていると主張します。
  • エンティティ干渉を明示的に考慮する、修正されたCKGE評価プロトコルを提案し、壊滅的忘却の評価をより信頼できるものにすることを狙っています。
  • 複数のベンチマークでの実験により、エンティティ干渉を無視すると、特にエンティティ数の増加が大きい状況で、CKGEの性能が最大25%過大評価され得ることを示します。
  • さらに、忘却の異なる原因によって影響を受けるCKGE手法やKGEモデルの傾向を分析し、CKGE向けの壊滅的忘却指標も導入します。

概要: 知識グラフ埋め込み(KGE)は、知識グラフ(KG)上で幅広い下流タスクを支援します。実際のところ、KGは新しいエンティティや事実が追加されることで進化し続けるため、時間の経過に応じて埋め込みを更新する継続的知識グラフ埋め込み(CKGE)手法が求められます。現在のCKGEアプローチは、壊滅的忘却(すなわち、以前に学習したタスクにおける性能低下)に主として対処するために、既存の埋め込みへの変更を制限することによりそれを抑えています。
しかし、私たちはこの見方が不完全であることを示します。新しいエンティティが導入されると、その埋め込みが、過去に学習された埋め込みと干渉し、その結果、モデルが以前は正しかった回答の代わりにそれらを予測してしまうことがあります。この現象を私たちはエンティティ干渉と呼び、これまで大きく見過ごされており、現在のCKGE評価プロトコルでは考慮されていません。その結果、壊滅的忘却の評価が誤解を招くものとなり、CKGE手法の性能が体系的に過大評価されます。
この問題に対処するために、エンティティ干渉を考慮した、修正済みのCKGE評価プロトコルを導入します。複数のベンチマークにおける実験を通じて、この効果を無視すると、特にエンティティ数の増加が大きい状況では、最大25%の性能過大評価につながり得ることを示します。さらに、異なるCKGE手法やKGEモデルが、忘却のさまざまな要因の影響をどのように受けるかを分析し、CKGEに特化した壊滅的忘却の指標を提案します。