大規模言語モデルにおける信頼できる真実整合型の不確実性推定に向けて

Abstract

不確実性推定（UE）は、大規模言語モデル（LLM）の幻覚的な出力を検出し、その信頼性を向上させることを目的としています。しかし、UEの指標は構成（コンフィギュレーション）によってしばしば不安定な性能を示し、そのことが適用可能性を大きく制限しています。本研究では、この現象をプロキシ失敗（proxy failure）として形式化します。というのも、ほとんどのUE指標はLLM出力の事実としての正しさに明示的に根拠づけられるのではなく、モデルの振る舞いに由来するためです。これにより、UEの指標は情報量が少ない領域において、ちょうど識別力を失う（非判別的になる）ことを示します。これを緩和するために、Truth AnChoring（TAC）を提案します。TACは、事後（post-hoc）の校正手法であり、生のスコアを真理に整合したスコアへと写像することで、UE指標を修復します。ノイズのある少数ショットの教師あり学習（few-shot supervision）であっても、私たちのTACは十分に校正された不確実性推定の学習を支援でき、実用的な校正プロトコルを提示します。本研究の結果は、ヒューリスティックなUE指標を「真理の不確実性」の直接的な指標として扱うことの限界を強調しており、TACを、LLMに対するより信頼性の高い不確実性推定へ向けた必要なステップとして位置づけます。コードリポジトリは https://github.com/ponhvoan/TruthAnchor/ で利用可能です。