適応型RAGは本当に必要か？適応型リストワイズランキングの観点から再考する

概要: アダプティブ・リトリーバル拡張生成は、補足的なパッセージを取得する必要性を動的に判断することで、無関係なノイズによる干渉を軽減することを目的とします。しかし、大規模言語モデルはノイズに対する頑健性を高める形で進化しているため、アダプティブ取得の必要性は再評価されるべきです。本論文では、この必要性を改めて考察し、新しいアダプティブ取得フレームワークであるAdaRankLLMを提案します。アダプティブなリストワイズ再ランキングの必要性を効果的に検証するために、まず、パッセージのドロップアウト機構を備えたゼロショット・プロンプトによるアダプティブ・ランカーを開発し、その生成結果を固定深さの静的な取得戦略と比較します。さらに、より小型のオープンソースLLMに、この正確なリストワイズ順位付けとアダプティブなフィルタリング能力を持たせるために、データサンプリングとデータ拡張技術によって強化された、2段階の段階的蒸留パラダイムを導入します。3つのデータセットと8つのLLMにわたる大規模な実験の結果、AdaRankLLMは、ほとんどの状況において、コンテキストのオーバーヘッドを大幅に削減しつつ、常に最適な性能を達成することを示しました。重要な点として、我々の分析により、アダプティブ取得には役割の変化があることが明らかになりました。すなわち、それは弱いモデルにとっては制約を克服するための重要なノイズフィルタとして機能し、一方で強力な推論モデルに対しては費用対効果の高い効率化オプティマイザとして機能します。