KEPo: グラフベースの Retrieval-Augmented Generation における 知識進化汚染攻撃
arXiv cs.LG / 2026/3/13
📰 ニュースIdeas & Deep AnalysisModels & Research
要点
- GraphRAG は外部データベースから知識グラフを構築し、LLM の生成の迅速性と正確性を向上させる。しかし、この依存は汚染データを通じた新たな攻撃面を生み出す。
- GraphRAG の KG 抽象化は、取得前に注入されたテキストをグラフへ再編成する。これにより LLM は再構成された文脈に基づいて推論でき、基本的な攻撃の一部を緩和する一方で新たな脆弱性が生じる。
- 本論文は、GraphRAG 用に設計された知識進化汚染攻撃（KEPo）を提案する。KEPo は各ターゲットクエリに対して、汚染知識を含む有毒イベントを生成し、元の事実から有毒イベントへ至る知識の進化経路を偽造して KG を汚染する。
- マルチターゲット設定では、KEPo は複数の攻撃コーパスを結びつけ、汚染知識がコミュニティ間で相互に強化されることで攻撃面を拡大し、効果を高める。
- 実験結果は、KEPo が単一ターゲットおよびマルチターゲット攻撃の双方で最先端の攻撃成功率を達成し、従来の手法を大幅に上回ることを示している。
