CURaTE:LLM知識の確実な保持を伴うリアルタイムの継続的アンラーニング
arXiv cs.CL / 2026/4/17
📰 ニュースIdeas & Deep AnalysisModels & Research
要点
- 本論文は、LLMの事前学習段階で問題になり得るデータを完全に事前除外することが難しいため、学習後に特定の知識を「忘却」する手法が必要だと論じています。
- 提案手法のCURaTEは、別途学習したセンテンス埋め込みモデルで、入力プロンプトと保存された「忘れてほしい」要求との類似度を判定し、その結果に応じて回答するか拒否(refusal)を返す仕組みを採用しています。
- CURaTEは、更新が積み重なっても有用性が劣化しにくいように、連続的かつ即時(リアルタイム)のアンラーニングを実現することを目指しています。
- 著者らは、CURaTEが既存手法よりも効果的に忘却できるだけでなく、LLMのパラメータを変更しないため、更新回数がいくら増えても知識保持をほぼ完全に維持できると報告しています。
- この研究では、モデル重みを変えずにリアルタイムの継続的アンラーニングを可能にする唯一の手法だと主張しています。