質問に合わせて文書を整える:質問指向の文書書き換えによるリトリーバル拡張生成(RAG)

arXiv cs.CL / 2026/4/21

📰 ニュースDeveloper Stack & InfrastructureModels & Research

要点

  • この論文では、RAGにおける提示の偏りが原因でLLMが生成内容に寄りやすくなる問題を抑えるため、取得した文書を質問指向のスタイルに整形するスタイル制御型書き換え手法QREAMを提案します。
  • QREAMは2段階で構成されており、QREAM-ICLはin-context learningによりスタイルを導いて反復的に書き換えを探索し、QREAM-FTはICL出力から蒸留した軽量な学生モデルです。
  • QREAM-FTでは、双方向の基準でリジェクションサンプリングを行い、答えの正しさと事実整合性の両方を満たす書き換え候補のみを採用して学習の質を高めます。
  • この手法は既存のRAGパイプラインにそのまま組み込めるプラグアンドプレイ設計で、実験では最大8%の相対改善が得られ、レイテンシの追加はほぼありません。
  • 全体として、取得した証拠の有用性は内容だけでなく、LLMに提示される形式によっても制約されるという立場を示し、それを質問整合化された書き換えで解決します。