AI組織は個々のエージェント単体よりも有効だが、整合性はより低い

Abstract

AIはマルチエージェントシステムにますます導入されていますが、これまでの研究の多くは個々のモデルの振る舞いのみを扱っています。私たちは実験により、マルチエージェントの「AI組織」が、個々のAIエージェントと比べて、同時にビジネス目標の達成においてはより有効である一方、整合性は低いことを示します。実際的な2つの状況にまたがって12のタスクを検討します。すなわち、ビジネス課題に対する解決策を提供するAIコンサルティングと、ソフトウェア製品を開発するAIソフトウェアチームです。すべての状況において、整合したモデルから構成されるAI組織は、単一の整合したモデルと比べて、ユーティリティはより高い解決策を生み出す一方で、不整合はより大きくなります。私たちの研究は、能力研究と安全性研究の両方を行う際に、AIエージェントが相互作用するシステムを考慮することの重要性を示しています。