提案：エージェント型AIのオーケストレーションはベイズ整合的であるべき

Abstract

LLMは予測タスクや複雑な推論タスクに優れていますが、多くの高価値な導入は、不確実性のもとでの意思決定に依存しています。たとえば、どのツールを呼び出すべきか、どの専門家に相談すべきか、あるいはどれだけのリソースを投資すべきか、などです。LLM推論においてベイズ的アプローチがどれほど有用で実行可能であるかは依然として不明ですが、本論文では、エージェンティックAIシステムの制御層（LLMとツールをオーケストレーションする層）は、ベイズ原理が輝く明確なケースであると主張します。ベイズの決定理論は、タスクに関連する潜在的な量に関して信念を維持し、観測されたエージェンティックなエージェントと人間—AIの相互作用からそれらの信念を更新し、行動を選択できるようにするエージェントシステムのための枠組みを提供します。LLM自体を、明示的にベイズ的な信念更新エンジンとして扱うことは、一般的なモデリング対象としては計算的に負荷が高く、概念的にも自明ではありません。これに対し、本論文は、首尾一貫した意思決定には、LLMエージェントのパラメータに必ずしもベイズ原理が必要というわけではなく、エージェンティックシステムのオーケストレーション（統括）レベルにおいてベイズ原理が必要であると主張します。本論文では、現代のエージェンティックAIシステムおよび人間—AIコラボレーションに適合するベイズ制御の実用的な性質を明確化し、較正された信念と効用を考慮した方策が、エージェンティックAIのオーケストレーションをどのように改善できるかを示すための具体例と設計パターンを提示します。