効率的な幻覚検出：意味エントロピーのための適応的ベイズ推定とガイド付き意味探索
arXiv cs.CL / 2026/3/25
💬 オピニオンIdeas & Deep AnalysisModels & Research
要点
- 本論文は、固定されたサンプリング予算ではなく階層ベイズモデルを用いて「意味エントロピー」を推定する、幻覚検出のための適応的ベイズ推定フレームワークを提案する。
- 観測された不確実性に基づいてLLMのサンプル数を動的に調整し、分散ベースの閾値が十分な確実性を示した時点で生成を早期停止することで、計算効率を改善する。
- 意味空間をより効果的に探索するために、摂動に基づく重要度サンプリング戦略を追加し、体系的にガイドされた意味探索を行う。
- 4つのQAデータセットでの実験により、低予算設定において約50%少ないサンプル数での効率向上や、同一予算下での平均AUROCが12.6%向上するなど、幻覚検出性能の改善が示される。
- 本手法は、クエリの複雑さが変動し固定の再サンプリングが無駄になりやすい場合を中心に、実運用において計算的によりスケーラブルであることを位置づけている。
