LLMベースのマルチエージェント協調における適応的心の理論

要旨: 心の理論（ToM）は、他者の心的状態について推測する能力を指し、上位のToMは他者も自分自身のToMを持つことを考慮することを含む。大規模言語モデル（LLM）主導のエージェントにToMを装備させることは、長い間、マルチエージェント協調タスクにおける協調を向上させると考えられてきた。しかし、エージェント間でToM推論の深さが一致しない（ToM順序のずれ）が、他者についての推論を不十分または過剰にし、協調を阻害することがある。 この問題に対処するため、パートナーとToMの順序を揃えることができる適応的ToM（A-ToM）エージェントを設計した。過去の相互作用に基づいて、エージェントはパートナーの推定されるToM順序を見積もり、この推定を利用してパートナーの行動を予測し、行動的な協調を促進する。私たちは4つのマルチエージェント協調タスクで経験的評価を行った。反復行列ゲーム、2つのグリッドナビゲーションタスク、およびOvercookedタスク。結果はToM整合性に関する我々の発見を検証し、A-ToMエージェントの有効性を示している。さらに、非LLMベースのエージェントへのA-ToMの一般化可能性や、ToM整合性の重要性を低下させうる要因についても論じる。