広告

推論ルーティングからエージェントオーケストレーションへ:クロスレイヤ検証による宣言的ポリシーコンパイル

arXiv cs.LG / 2026/3/31

💬 オピニオンDeveloper Stack & InfrastructureSignals & Early TrendsIdeas & Deep Analysis

要点

  • セマンティック・ルータDSLは、チューリング完全でない、宣言的なポリシー言語であり、コンテンツ・シグナルを用いてモデルを選択し、プライバシーを強制することで、リクエストごとのLLM推論ルーティングをプロダクション化しつつ、構造化された監査トレースを出力します。
  • 本論文は、このアプローチをステートレスなルーティングから、マルチステップのエージェントオーケストレーションへと拡張し、LangGraphやOpenClawのようなフレームワーク向けに検証済みのオーケストレーション意思決定ノードを生成します。
  • さらに、同一のポリシーを、KubernetesのNetworkPolicy/Sandbox CRD/ConfigMap、YANG/NETCONFのペイロード、MCPやA2Aのような境界ゲートを含む、インフラストラクチャおよびプロトコル成果物へとコンパイルします。
  • チューリング完全でないことを活用することで、網羅的なルーティング、競合のない分岐、参照整合性、層をまたいだ構造的な監査可能性結合といった性質を、コンパイラが保証します。
  • 共有されるシグナルおよび閾値の定義により、単一ステップでの再コンパイルが可能となり、推論ゲートウェイからエージェントゲート、さらにインフラ成果物へと変更が伝播し、チーム間のポリシードリフトを防ぐことを目指します。

概要: Semantic Router DSL は、Turing 完全ではないポリシー言語であり、リクエストごとの LLM 推論ルーティングのために本番環境で運用されています。コンテンツ・シグナル(埋め込み類似度、PII 検出、ジェイルブレイクスコアリング)が加重射影と、優先順に並べられた意思決定木へ投入され、その結果として、モデルの選択、プライバシー・ポリシーの適用、そして構造化された監査トレースの生成が行われます——これらはすべて単一の宣言的ソースファイルから実現されます。先行研究では、確率的述語に対する競合のないコンパイル手法が確立され、DSL が Workload-Router-Pool 推論アーキテクチャ内に位置づけられました。
本論文では、この同じ言語を、ステートレスなリクエストごとのルーティングから、多段のエージェント・ワークフローへ拡張します——推論ゲートウェイからエージェントのオーケストレーション、さらにはインフラストラクチャのデプロイメントに至るまでの全経路です。DSL コンパイラは、オーケストレーション・フレームワーク(LangGraph、OpenClaw)用の検証済み意思決定ノード、Kubernetes アーティファクト(NetworkPolicy、Sandbox CRD、ConfigMap)、YANG/NETCONF ペイロード、そしてプロトコル境界ゲート(MCP、A2A)を、同一のソースから生成します。
この言語は Turing 完全ではないため、コンパイラは網羅的なルーティング、競合のない分岐、参照整合性、そして意思決定ロジックと構造的に結び付いた監査トレースを保証します。さらに、シグナル定義は各ターゲットで共有されているため、しきい値の変更が推論ゲートウェイからエージェント・ゲート、インフラストラクチャ・アーティファクトへと、同一のコンパイル手順で伝播します。これにより、ポリシー・ドリフトの主な要因であるチーム間の調整を排除できます。本アプローチを支えるのは 4 つの柱——監査可能性、コスト効率、検証可能性、チューナビリティ——であり、各層における検証境界を特定します。

広告