プロンプト最適化がLLMエージェントにおける安定したアルゴリズム的共謀を可能にする

概要: 市場におけるLLMエージェントは、アルゴリズム的な共謀（コリュージョン）のリスクを伴います。先行研究では、LLMエージェントが暗黙の協調によって超競争的な価格に到達することが示されていますが、既存の研究は主として手作りのプロンプトに焦点を当てています。プロンプト最適化という新たなパラダイムでは、自律エージェントの挙動を理解するための新しい方法論が必要になります。本研究では、プロンプト最適化が市場シミュレーションにおいて創発的な共謀行動をもたらすかどうかを検討します。デュオポリー（寡占）市場にLLMエージェントが参加し、LLMメタ最適化器が共有された戦略的ガイダンスを反復的に洗練するメタ学習ループを提案します。実験の結果、メタプロンプト最適化により、ベースラインのエージェントと比べて実質的に協調の質が向上した、安定した暗黙の共謀戦略をエージェントが発見できることが分かりました。これらの行動は、保持されたテスト市場にも一般化されており、一般的な協調の原理の発見を示唆しています。進化したプロンプトの分析から、安定した共有戦略を通じた体系的な協調メカニズムが明らかになります。本研究の知見は、自律型マルチエージェントシステムにおけるAI安全性への影響について、さらなる調査が必要であることを示しています。