TRACER：LLM分類のためのトレースベース適応型・低コストルーティング
arXiv cs.AI / 2026/4/17
📰 ニュースDeveloper Stack & InfrastructureTools & Practical UsageModels & Research
要点
- TRACERは、LLM分類エンドポイントの本番ログにすでに含まれるラベル付き入出力ペアを用いて、軽量なMLサロゲートを学習するオープンソースのルーティングシステムです。
- 「パリティゲート」により、サロゲートのLLMとの一致度がユーザー定義の閾値（α）を超える場合にのみサロゲートを有効化し、推論の限界コスト削減を狙います。
- TRACERは、サロゲートとLLMの引き継ぎ境界を可視化する解釈可能性アーティファクトを生成し、どの入力領域をカバーし、どこで頭打ちになり、なぜ委譲するのかを説明します。
- ベンチマークで高いサロゲートカバー率（77クラスで83〜100%、150クラスでは完全置換）を示しつつ、自然言語推論では信頼できる分離ができないためデプロイを適切に拒否します。
