AIエージェントの知能を高めることは、集団の結果を悪化させる可能性がある

資源が乏しいとき、AIエージェントの集団は調和のとれた協調を実現するのか、それとも部族的混乱へと陥るのか？異なる開発者による多様な意思決定AIが日常のデバイスに入りつつあり — スマートフォンや医療機器から戦場のドローン、車両に至るまで — これらのAIエージェントは通常、充電スロット、中継帯域、交通優先度といった有限な共有資源を競い合います。しかし、それらの集合的ダイナミクスと、それに起因するユーザーや社会へのリスクは十分には理解されていません。 本研究では、集合的挙動を支配する4つの重要な変数を独立して切り替え可能な、実在のエージェントとしてのAIエージェント集団を初めて扱います。これらの変数は、nature（生来のLLMの多様性）、nurture（個別の強化学習）、culture（自発的な部族形成）、および資源の希少性です。 実証的かつ数学的に、資源が乏しい場合、AIモデルの多様性と強化学習は危険なシステム過負荷を増大させる一方で、部族形成はこのリスクを緩和することを示します。その一方で、個々のエージェントの中にはかなりの利益を得る者もいます。 資源が豊富な場合、同じ要素が過負荷をほぼゼロまで低減しますが、部族形成は過負荷をわずかに悪化させます。 この転換点は算術的なものであり、自然発生的に形成される対立する部族が、まず利用可能な容量の範囲に適合する点です。 より高度なAIエージェント集団が必ずしも優れているわけではありません。彼らの高度化が有利か有害かは、出荷前に知ることのできる1つの数値、すなわち容量対人口比に完全に依存します。