LLMsのRAGにおける検索強化のために外部知識をトリプレットへ変換する

要旨: 検索拡張生成（RAG）は、生成中に外部知識を取り込むことで、大規模言語モデル（LLM）の幻覚を軽減します。しかし、RAGの有効性は、検索器の設計や基盤となるモデルの能力だけでなく、取得したエビデンスがどのように構造化され、クエリにどのように整合しているかにも依存します。既存のRAG手法は一般に、非構造化のテキスト断片を取得して連結し、それを文脈として用いますが、これは冗長、あるいは関連性が弱い情報を持ち込むことが多くなります。その結果、過剰な文脈の蓄積、意味的な整合の低下、推論チェーンの断片化が生じ、トークン消費が増えつつ生成品質は劣化します。これらの課題に対処するため、我々はTri-RAGを提案します。Tri-RAGは、推論に整合した文脈構築によって検索効率を高める、構造化されたトリプレット（3つ組）ベースの検索フレームワークです。Tri-RAGは、自然言語から成る外部知識を、自動的に、Condition（条件）、Proof（証明）、Conclusion（結論）からなる標準化された構造化トリプレットへと変換します。さらに、凍結したモデルパラメータを用いた軽量なプロンプトベースの適応によって、知識断片間の論理関係を明示的に捉えます。この表現を土台に、トリプレットヘッドであるConditionを、検索とマッチングのための明示的な意味アンカーとして扱います。これにより、長い生のテキストを直接連結することなく、クエリに関連する知識ユニットを正確に特定できます。その結果、Tri-RAGは、検索精度と文脈トークン効率のバランスの良い達成を実現します。複数のベンチマークデータセットにおける実験結果は、Tri-RAGが検索品質と推論効率を大幅に向上させること、また複雑な推論シナリオにおいてより安定した生成挙動と、より効率的なリソース利用をもたらすことを示しています。