アブストラクト: 生成拡張（RAG）の大きな可能性にもかかわらず、多くの実世界のユースケースでは、プライバシーに関する懸念が生じうる。そこでは、RAGによって得られるとされる有用性が、LLMまたは回答を求めるエンドユーザーに対してプライベートな情報を露出するリスクを伴う。潜在的な緩和策として、基礎となるデータから個人を特定できる情報（PII）やその他の機微なマーカーを除去するための匿名化手法を用いることは、RAG管理者にとって実用的で妥当な方針となる。これまでこの話題に関しては多くの文献があるにもかかわらず、RAGパイプラインにおける匿名化の配置については検討されていない。すなわち、「匿名化はどこで行うべきか？」という問いである。本ケーススタディでは、RAGパイプラインの2つの重要なポイント、すなわちデータセットと生成された回答において、匿名化が与える影響を体系的かつ実証的に測定する。その結果、匿名化が行われた場所によってプライバシーと有用性のトレードオフに差が観測できることを示し、RAGにおけるプライバシーリスク緩和の配置の重要性を明らかにする。
RAGパイプラインにおける匿名化の影響に関するケーススタディ
arXiv cs.CL / 2026/4/20
💬 オピニオンIdeas & Deep AnalysisModels & Research
要点
- このケーススタディは、PII（個人を特定できる情報）の漏えいがLLMやエンドユーザーに生じうるというプライバシー上のリスクに着目し、RAG（Retrieval-Augmented Generation）への匿名化の影響を分析しています。
- 従来研究では匿名化を一律の前処理として扱うことが多かった一方で、本研究はRAGパイプラインのどこで匿名化を行うべきか、配置（placement）の観点を体系的に扱っています。
- 匿名化の影響を、重要な2つの段階（データセット段階と生成回答段階）で実験的に測定しています。
- 匿名化の実施箇所によってプライバシーと有用性（ユーティリティ）のトレードオフが変化することが示され、RAGにおいてリスクを抑えつつ品質への影響も考慮した配置が重要であることが明確になります。
