概要: 自動化されたエージェント的ワークフロー設計は現在、タスクごとの反復的な探索に依存していますが、これは計算コストの面で過度に負担が大きく、タスク間で構造的な知識を再利用できません。最適化されたワークフローは少数のドメイン固有のトポロジ(位相構造)の族へ収束することを観察しており、この組合せ探索の多くが冗長であることを示唆します。この洞察に基づき、本研究では SWIFT(Synthesizing Workflows via Few-shot Transfer)を提案します。これは、ワークフロー設計のコストを再利用可能な構造的事前知識へ償却(アモーティゼーション)する枠組みです。SWIFT はまず、ソースとなるタスク群における過去の探索軌跡の対比的(コントラスティブ)分析から、構成的ヒューリスティックと出力インターフェースの契約(コントラクト)を蒸留します。推論時には、この事前知識とタスク横断のワークフロー実演(デモンストレーション)とを組み合わせ、単一の LLM による生成を条件付けて、未知のターゲット・タスク向けの完全で実行可能なワークフローを合成します。これにより反復的探索を完全に回避します。5 つのベンチマークで、SWIFT は探索ベースの最先端手法を上回り、タスクごとの周辺的(マージナル)な最適化コストを 3 桁削減します。さらに、4 つの追加の未知ベンチマークにも一般化し、GPT-4o-mini から 3 つの追加の基盤モデル(Grok、Qwen、Gemma)へ正常に転移します。制御されたアブレーション(要素分解)により、ワークフロー実演は表層的意味論よりも主にトポロジ構造を転移していることが明らかになりました。すべての演算子名をランダムな文字列に置き換えても、システム全体の平均性能の 93% 超を依然として維持します。
検索するより転送する:構造的事前知識に基づく償却型エージェント型ワークフロー設計
arXiv cs.LG / 2026/4/29
📰 ニュースSignals & Early TrendsIdeas & Deep AnalysisModels & Research
要点
- 本論文は、エージェント型ワークフロー設計が「タスクごとの反復的な探索」に依存して計算コストが高く、タスク間で構造的知識を再利用できない点を問題視しています。
- 最適化されたワークフローは領域固有のトポロジーの小さな集合に収束しやすいことを観察し、組合せ探索の多くが冗長であると示しています。
- 提案手法SWIFTは、過去の探索軌跡をコントラスト分析して「構成のヒューリスティック」や「入出力インターフェースの契約」を再利用可能な“構造的事前知識”として学習し、ワークフロー設計を償却します。
- 未知のターゲットタスクでは、これらの事前知識とタスク間のワークフロー実例を用いて、反復探索を回避しつつ単一のLLM生成パスで実行可能なワークフローを合成します。
- 実験ではSWIFTが5つのベンチマークで探索ベースの最先端手法を上回り、タスクごとの最適化コストを約3桁削減し、追加の未見ベンチマークへも一般化し、さらに複数の基盤モデル間で転移できることを示します。また、性能移転は表面的なセマンティクスよりもトポロジーに主に依存することがアブレーションで明らかになっています。



