DiffAdapt：トークン効率の良いLLM推論のための難易度適応型推論

要旨: 最近の推論能力を持つ大規模言語モデル（LLM）は目覚ましい問題解決能力を示していますが、その一方で、有用性が不明な長い思考トレースを生成することがしばしばあります。我々の研究は、それらの効率を改善し、考え込み過ぎることなく高い性能に到達できるようにすることを目的としています。まず、推論トレースにおけるトークン確率のエントロピーを解析します。3つのモデルにわたって観測されるのは、整合的なU字型のエントロピーのパターンです。すなわち、正確さが高いにもかかわらず、易しい問題ではエントロピーが高くなり、中程度の難しさの問題ではエントロピーが低くなり、そして難しい問題では不確実性を反映してエントロピーが高くなります。具体的には、易しい領域から中程度の難しさの領域へのエントロピーが22--25\%減少していることを確認しており、これは易しい事例における{過考え}現象を示唆しています。これらの知見に基づき、我々は{DiffAdapt}を提案します。これは、質問ごとの難しさと推論トレースのエントロピーに応じて、Easy/Normal/Hardの推論戦略を選択する軽量な枠組みです。各推論戦略は、固定されたプロンプト、温度、最大トークン長から構成されます。既存の効率化手法とは対照的に、我々の方法は基盤LLMを微調整せず、LLMの最終的な隠れ状態を分類する小さなプローブを用います。これにより、コストを抑えた適応が可能になります。我々は、5つのモデルと8つのベンチマークに対して、包括的に手法を評価します。その結果、トークン使用量を最大22.4\%削減しつつ、同等または向上した精度を達成し、計算効率のよい推論へ向けた実用的な道筋を示します。