検索拡張型マスク拡散モデルのための適応的ガイダンス
arXiv cs.CL / 2026/4/6
💬 オピニオンIdeas & Deep AnalysisModels & Research
要点
- 本論文は、検索拡張生成が、取得した文脈がノイズ的であったり信頼できなかったり、あるいはモデルがすでに持っている知識と矛盾したりする場合に失敗し、「検索—事前分布の衝突（retrieval–prior conflicts）」が生じることに焦点を当てる。
- 分布的シフトを引き起こす検索文脈のSNR（信号対雑音比）に基づいて、ノイズ除去中にガイダンスの強度を再調整する、学習不要の適応的ガイダンス手法 ARAM を提案する。
- ARAM は、検索が信頼できる修正の根拠を提供する場合にはガイダンスを効果的に強め、検索信号がノイズ的または支持的でない場合にはそれを抑えることで、不適切な文脈への有害な依存を防ぐことを狙う。
- 複数の知識集約型QAベンチマークに対する実験により、競合するRAGベースラインよりも質問応答性能が向上することを著者らが報告している。
