アンサンブル投票によるRAGにおけるハルシネーション・オン・ハルシネーションの低減

Abstract

リトリーバル強化生成（Retrieval-Augmented Generation: RAG）は、外部知識を統合することで、大規模言語モデル（LLM）の幻覚を減らすことを目指します。しかしRAGには重要な課題があります。「幻覚の上に幻覚（hallucination on hallucination）」であり、誤った検索結果が生成モデルを誤誘導し、幻覚が積み重なってしまいます。そこで本研究では、この問題に対処するため、学習不要の新しい枠組みVOTE-RAGを提案します。これは二段階の構造と、効率的で並列化可能な投票メカニズムを備えています。VOTE-RAGは次を含みます。（1）検索投票（Retrieval Voting）：複数のエージェントが並列に多様なクエリを生成し、取得した全ての文書を集約します。（2）応答投票（Response Voting）：複数のエージェントが集約された文書に基づいて独立に回答を生成し、最終出力は多数決によって決定されます。6つのベンチマークデータセットで比較実験を行います。その結果、VOTE-RAGは、より複雑な枠組みに匹敵する、あるいはそれを上回る性能を達成することが示されました。さらにVOTE-RAGは、より単純なアーキテクチャを特徴とし、完全に並列化可能であり、「問題ドリフト」リスクも回避します。本研究は、単純で信頼性の高いアンサンブル投票が、RAGの幻覚を緩和するための、より優れた、かつより効率的な方法であることを示しています。