見解：エージェント型AIの安全性と公平性はモデル規模や整合性よりも「相互作用トポロジー」で決まる

要旨: 大規模言語モデルが、重大な意思決定において相互作用するエージェントとしてますます導入されるにつれ、AIセーフティのコミュニティは、個々のモデルの安全性の性質が、安全なマルチエージェント挙動へと合成（compose）されると想定している。 本論文の立場は、この想定が根本的に誤りであると主張する。 エージェント型AIにおいて安全性は、モデルの重みではなく、相互作用のトポロジー（構造）によって決まる。 エージェントが逐次的に熟考する場合、または裁定者（judge）による並列投票で集約する場合、情報の流れの構造と意思決定の結合のあり方が、結果を支配する。 様々なモデル系統とスケールにまたがる証拠は、トポロジーに起因する3つの持続的な病理を明らかにする。すなわち、順序の不安定性（ordering instability）――システム挙動が主としてエージェントの並び順に依存してしまうこと。 情報カスケード（information cascades）――初期の判断が正しさにかかわらず伝播してしまうこと。 機能的崩壊（functional collapse）――システムが公平性の指標は満たしつつ、意味のあるリスク識別を放棄してしまうこと。 直感に反して、より能力の高いモデルへとスケールさせることは、合意形成を強め、初期の意思決定の難しさを下げることで、これらの影響をさらに強化する。 これらの故障モードは、モデル中心の評価やアラインメント手続きでは見えない。 我々は、エージェント型AIは、整列（アライン）された構成要素の集合として扱うのではなく、力学的システムとして扱うべきだと主張する。 相互作用のトポロジーは、安全性評価と規制の主要なターゲットでなければならない。導入前に、システムはアーキテクチャの変化にまたがって頑健性を示すことが求められる。