LLMルーターの自動プロファイル選択をrule-basedでどこまでやるか—CodeRouter v1.6 auto_router
Zenn / 4/23/2026
💬 OpinionDeveloper Stack & InfrastructureTools & Practical Usage
Key Points
- CodeRouter v1.6 の auto_router で、LLMルーターの「自動プロファイル選択」を rule-based（ルールベース）でどこまで実用化できるかを検討しています。
- ルール設計の方針として、プロンプト/リクエストの特徴から適切なプロファイルを選ぶための判定ロジックを段階的に増やしていく考え方が示されます。
- rule-based の強み（予測可能性・制御性）と限界（網羅性・例外対応の増加）が暗に論点になっており、どの時点で機械学習的アプローチへ寄せるべきかが示唆されています。
- 自動化の適用範囲を広げる際の実装/運用上の注意（誤選択時の挙動、検証、チューニング）に焦点があります。
LLM ルーターの『自動プロファイル選択』を rule-based でどこまでやるか
この記事で扱うこと
CodeRouter v1.6 で入れた auto_router という feature の、分類器としての設計判断を書きます。やっていること自体は「リクエスト本文を見てプロファイル (≒ どのモデル群に流すか) を自動で選ぶ」という、書いてみれば一行で済む話です。ただこの一行を実装するときに、**「LLM に投げて分類させるべきか」「rule-based でいいのか」「rule を何種類用意すべきか」「閾値はどう決めるか」**で結構悩んだので、その内訳を残しておきます。
結...
Continue reading this article on the original site.
Read original →
