人間の価値観は重要：LLMエージェント・コミュニティにおける不一致が集団行動をどのように形作るかを調査する

要旨: LLM（大規模言語モデル）が人間社会にますます深く統合されるにつれ、社会科学の観点から人間の価値観に対するそれらの指向（オリエンテーション）を評価することへの関心が高まっています。それにもかかわらず、人間の価値観が特にLLMベースのマルチエージェントシステムにおいてLLMにとってなぜ重要なのかは、いまだ明らかではありません。個々の行動が誤って整合していない場合、集団レベルでの失敗が積み重なり得るからです。本研究では、人間の価値観との不整合が、LLMエージェントの集団的な振る舞いを変えるのか、そしてそれがどのような変化を誘発するのかを問いとして設定します。本研究では、社会科学の理論に基づく制御されたマルチエージェント環境であるCIVAを導入します。そこでは、LLMエージェントがコミュニティを形成し、自律的に通信し、探索し、資源をめぐって競争します。これにより、価値観の優勢度（prevalence）を体系的に操作し、行動を分析できるようになります。包括的なシミュレーション実験を通じて、3つの主要な発見を明らかにします。 (1) コミュニティの集団的ダイナミクスを大きく左右する、構造的に重要ないくつかの価値観を特定します。これらには、LLMの元々の指向から逸脱するものも含まれます。これらの価値観のミススペシフィケーション（指定の誤り）によって引き起こされて、 (2) 巨視的（マクロ）レベルで、壊滅的な崩壊のようなシステム故障モードを検出し、さらに (3) 微視的（ミクロ）レベルでは、欺瞞や権力志向といった創発的な振る舞いを観察します。これらの結果は、人間の価値観がLLMにおける集団的な結果に不可欠であることを定量的な証拠として提示し、将来のマルチエージェントの価値整合（value alignment）に向けた動機づけとなります。