テキスト上のフェデレーション:マルチエージェント推論のための洞察共有

arXiv cs.LG / 2026/4/21

📰 ニュースIdeas & Deep AnalysisModels & Research

要点

  • この論文は、LLMエージェントのためのフェデレーテッドラーニング風アプローチ「Federation over Text(FoT)」を提案し、エージェント間・タスク間で“メタ認知的な洞察”を転移できるようにします。
  • FoTはモデルの勾配をフェデレートするのではなく、監督信号も使わず、中央サーバーでエージェントの推論トレースを意味論的に集約・蒸留して再利用可能な洞察ライブラリを構築します。
  • 各エージェントは自分の担当タスクで独立に思考と自己改善を行い、その推論トレースを共有し、反復的に共有ライブラリへ蒸留していきます。
  • 実験ではFoTが推論の有効性と効率を改善し、最初の2つのアプリケーションで平均精度が24%向上し、推論トークンが28%削減されたと報告されています。
  • MLの研究洞察発見の設定では、FoTが生成した洞察が、その後の論文における主要貢献の90%以上をカバーしたとされ、学習済みの推論戦略の再利用可能性が示唆されます。