決定的な構造をSLMハーネスにコンパイルする

要旨: 小型言語モデル（SLM）のエンタープライズ導入は、認識論的非対称性によって制約されます。すなわち、SLMは推論エラーを自己修正できない一方で、最前線（フロンティア）のLLMは費用が過剰であり、大量利用においてデータ主権の制限にも直面します。そこで本研究では、SGDe（Semantic Gradient Descent；意味勾配降下）を提案します。これは、エージェント的ワークフローを、DAGトポロジ、システムプロンプト、そして決定論的な実行可能コードからなる離散的な実行計画へコンパイルする教師—生徒フレームワークです。末尾の「e」は、SGDeを確率的勾配降下法（stochastic gradient descent）と区別するためのものです。SGDeは、離散的な意味空間上で動作し、フロンティア教師が自然言語による批評を生成して、それを方向勾配として用いることで、SLMのワークフローのアーティファクトを逐次的に洗練させます。私たちは、PAC学習の枠組みの中でSGDeを形式化し、教師を統計的事前分布として活用することで、対象とする合成タスクにおいて訓練例がわずか3つでも収束を可能にするサンプル複雑性の上界を示します。敵対的合成によって構築されたGSM-Hard由来のテストセットでは、コンパイルされたワークフローが、小さなmの領域で、m=5のとき91.3%の精度、m=3のとき99.3%の精度を達成します。これは、補題1（Corollary 1）により動機づけられた領域です。これは、最先端のプロンプト最適化手法に対して、絶対的な改善が+26.3%から+34.3%です。
エマージングなパラダイムであるハーネス・エンジニアリングにおいて、SGDeは、決定論的コード（Python実行ランタイムへ委任するべきサブタスクと、LLM呼び出しとして保持するべき部分）をどこに配置するかを、トレース駆動の、ノードごとの最適化目標として扱います。これは、PALおよびPoTによる問題全体のオフロードを一般化したものです。教師は、互いに補完的な2つの決定論的構造をコンパイルします。すなわち、能力オフローディングは、SLMがそれらを信頼性高く実行できない場合にサブタスクをPythonへ委任し、構造的コンセンサスは、分散が制限された推論ステップをファンアウト/ファンインのサブグラフで包み、決定論的な投票によって集約します。