信じられないほど腐敗している：マルチエージェント統治システムにおける腐敗の評価

概要: 大規模言語モデルは高リスクの公共ワークフローに対する自律エージェントとしてますます提案されているが、権限が付与された場合に機関の規則に従うかどうかについて体系的な証拠が不足している。
私たちは、機関AIにおける完全性は事前デプロイ要件として扱われるべきであり、事後デプロイの前提条件ではないという証拠を提示する。
私たちは、エージェントが異なる権限構造の下で公式な政府職を担う複数エージェントの統治シミュレーションを評価し、28,112の文字起こしセグメントにわたり、違反および乱用の結果を、独立したルーブリックに基づく審判者によって採点する。
この立場を進めつつも、核となる貢献は実証的なものである。飽和に達していないモデルの中では、ガバナンス構造がモデルの識別性よりも腐敗関連の結果を左右するより強い要因であり、体制ごとおよびモデルとガバナンスの組み合わせごとに大きな差がある。
軽量な安全対策は一部の設定でリスクを低減できるが、重大な失敗を一貫して防ぐことはできない。
これらの結果は、機関設計が安全な委任の前提条件であることを示唆している。実際の権限がLLMエージェントに付与される前に、システムはガバナンスに類似した制約の下でストレステストを受けるべきであり、実施可能な規則、監査可能なログ、および高影響の行動に対する人間の監視を備えるべきである。