大規模言語モデルによるテキスト生成における不確実性分析のための形式的フレームワーク
arXiv cs.LG / 2026/3/30
💬 オピニオンIdeas & Deep AnalysisModels & Research
要点
- 本論文は、プロンプト、生成、下流での解釈という不確実性を考慮することで、LLMのテキスト生成における不確実性を測定するための形式的フレームワークを提案する。
- プロンプト、生成、解釈を相互に結びついた自己回帰的プロセスとして表現し、それらを単一の「サンプリングツリー」に統一できるようにする。
- 著者らは、サンプリングツリー上で不確実性のさまざまな側面を表現することを可能にするフィルタと目的関数を導入する。
- このフレームワークを用いて、既存の不確実性手法の間の形式的な関係を示すとともに、これまで十分に調査されてこなかった追加の不確実性要因を特定する。
