自己修正するエージェントは実際にどれくらいLLMを必要とするのか？

要旨: 最近のLLMベースのエージェントは、しばしば世界モデル化、計画、そして省察を単一の言語モデルループの中に内包している。これは有能な振る舞いを生み出しうるが、素朴な科学的問いを答えにくくする。すなわち、エージェントの能力のどの部分が実際にLLMから来ていて、どの部分がそれを取り巻く明示的な構造から来ているのか、という点である。
我々はこの問いに対して一般的な答えを主張するのではなく、経験的に検証可能な形にすることで考察する。エージェントの状態、確信（confidence）信号、ガード付きの行動、仮説的な遷移を、検査可能な実行時構造へ外部化する、宣言的な省察的実行ランタイムプロトコルを導入する。このプロトコルを宣言的ランタイム上で実装し、雑音のある協力型バトルシップ [4] に対して、段階的に構造化された4つのエージェントを用い、54ゲーム（18盤面 × 3シード）で評価する。
その結果得られる分解により、4つの構成要素が分離される。事後（posterior）信念の追跡、明示的な世界モデルにもとづく計画、エピソード内の象徴的省察、そして疎なLLMにもとづく改訂である。この分解のもとでは、明示的な世界モデルにもとづく計画は、貪欲な事後追従ベースラインに比べて大幅に改善する（勝率 +24.1pp、+0.017 F1）。象徴的省察は、予測追跡、確信ゲーティング、ガード付きの改訂行動といった実行時の仕組みとして機能する—一方で、現時点の改訂プリセットは集約するとまだ総合的にプラスの効果を持っていない。ターンの約4.3%で条件付きLLM改訂を追加すると、変化はわずかで非単調になる。平均F1はわずかに上昇する（+0.005）が、勝率は低下する（54戦中 31→29）。
これらの結果は、リーダーボードの主張というより方法論的な貢献を示唆している。省察を外部化することで、それまで潜在的だったエージェントの振る舞いが検査可能な実行時構造になるため、LLM介入の限界的な役割を直接的に研究できるようになる。