選択的知識抑制によるスケーラブルな生涯知識編集に向けて
arXiv cs.AI / 2026/4/22
📰 ニュースIdeas & Deep AnalysisModels & Research
要点
- 本論文では、LLMの全体再学習なしに特定の事実を更新する「生涯知識編集」をスケール可能にするフレームワークLightEditが提案されます。
- 取得した根拠情報から関連する知識を選別し、さらにデコード戦略で元の（望ましくない）知識確率を抑制することで、連続的な編集時の安定性を高めます。
- 既存のパラメータ編集手法は連続編集で不安定になりやすく、破滅的忘却の問題がある一方、取得ベース手法は学習コストが高くなりがちで適用が限定されると指摘されています。
- ZSRE、Counterfact、RIPEのベンチマークで、LightEditは従来の生涯知識編集手法より優れた性能を示しました。
- 学習コストを抑えることで、LightEditはコスト効率よくさまざまなデータセットに適応できる手法として位置づけられています。
