チューター・学生のマルチエージェント対話によるLLM問題解決の強化

概要: 人間の認知発達は、個人の努力だけでなく、構造化された社会的相互作用によっても形作られます。そこでは、チュータと学習者の間のような役割に基づくやり取りが、どちらか一方だけでは到達できない解決策を可能にします。こうした発達の原理に触発され、我々は、チュータ-学生のマルチエージェントシステムが、既存の枠組みの中でLLM（大規模言語モデル）ができることを超えることで相乗効果を生み出せるのか、という問いを立てます。このアイデアを検証するために、同一のLLMから生成した2つのエージェントに非対称な役割を割り当てる自律的コーディング問題領域を採用します。具体的には、学生エージェントは解決策を生成し、反復的に洗練します。一方、チュータエージェントは、正解（ground-truth）の回答にアクセスせずに、構造化された評価的フィードバックを提供します。提案手法（PETITE）では、より強力な教師モデルや異種のアンサンブルに依存するのではなく、補完的な役割を通じて相互作用を構造化することで、1つのモデルからより良い問題解決性能を引き出すことを目指します。本モデルは、APPSコーディングベンチマークにおいて、Self-Consistency、Self-Refine、Multi-Agent Debate、Multi-Agent Reviewといった最先端手法に対して評価されます。その結果、本モデルは同等またはそれ以上の精度を達成しつつ、使用するトークン数を大幅に削減することが示されました。これらの結果は、発達に基づく役割分化された相互作用構造が、ピアのような構造化されたやり取りを通じてLLMの問題解決を強化するための、原理的で資源効率の高いパラダイムを提供することを示唆しています。 キーワード: ピア・チュータリング、足場かけ（scaffolding）、大規模言語モデル、マルチエージェントシステム、コード生成