FlowBot：バイレベル最適化とテキスト勾配によるLLMワークフローの誘導

要旨: 特定の目標を達成するために、個々のLLMに（さまざまな指示やツールを追加して）構造化された呼び出しを調整するLLMワークフローは、LLMの能力を拡張し、多様なタスクに取り組める強力なシステムを構築する有望な道筋を提供します。しかし、このようなワークフローを構築する既存の手法は一般に、人手で作成したパイプラインやプロンプトに依存しており、実運用のボトルネックとなっています。では、どのようにしてデータ駆動でこのようなワークフローを自動的に誘導し、最適化できるのでしょうか？本論文では、LLMワークフローを自動的に誘導するためのシンプルなデータ駆動アプローチを提案します。ワークフロー誘導を二水準最適化問題として定式化します。具体的には、（特にLLM呼び出しをどのように構造化すべきかを含む）ワークフローの高レベルな概略を最適化する外側ループと、各個別のLLM呼び出しを1つずつ最適化する内側ループです。両方のループは「textual gradients（テキスト勾配）」で最適化されます。内側ループでは、レイヤーごとに「backpropagating（逆伝播）」することで、各コンポーネントをモジュール化した形で最適化します。私たちの extsc{FlowBot}（ extbf{flow} 誘導 through extbf{b}ilevel extbf{o}ptimization and extbf{t}extual gradients）アプローチによって発見されたLLMワークフローは、人手で作成した、あるいは自動生成したワークフローを用いる強力なベースラインに対して競争力のある性能を示すことが分かりました。