両方の視点を聞く：多様性を考慮したメッセージ保持による効率的なマルチエージェント討論

要旨: マルチエージェントによる討論（Multi-Agent Debate）は、反復的なエージェント間コミュニケーションを通じて、大規模言語モデルの推論品質を向上させる有望な枠組みとして注目されている。とはいえ、毎ラウンドですべてのエージェントのメッセージをブロードキャストすると、ノイズや冗長性が生じ、討論の質を低下させるとともに計算資源を無駄にする。現在の手法では、ブロードキャスト前に不確実性推定を用いて低い信頼度の応答をフィルタリングすることに依存しているが、この方法は、信頼度スコアが不適切に較正されていることや、しきい値選択への感度の高さにより信頼性がない。そこで本研究では、軽量な討論フレームワークである Diversity-Aware Retention（DAR）を提案する。DARは、各討論ラウンドにおいて、ブロードキャストする前に、互いに最大限異なる（反対する）ように、かつ多数決（majority vote）とも最大限食い違うようにするエージェント応答の部分集合を選択する。明示的なインデックスに基づく保持（retention）メカニズムにより、DARは元のメッセージを改変せずそのまま保持し、保持された不一致が真正であり続けることを保証する。多様な推論および質問応答ベンチマークでの実験により、本手法の選択的メッセージ伝播は、特にエージェント数が増えるにつれてノイズの蓄積が最も深刻になる状況で、討論性能を一貫して向上させることが示された。これらの結果は、マルチエージェント推論システムにおいて、エージェントが「何を言うか」だけでなく、「何を聞くか」も同様に重要であることを示している。