AIコレクティブは早期に収束してしまい、より単純なエージェントよりも解空間を探索する度合いが小さくなります。これらが探索が下手になるという同じ性質が、同時に効率的なコンセンサス製造者であることを可能にしています。民主的操作への防御と、集団的知性の修復は、同じ位相的介入です。
UBCの研究者たちは、今春Scienceに、民主的レジリエンスを研究する誰にとっても憂慮すべき発見を発表しました。大規模言語モデルの推論とスワーム（群れ）アーキテクチャを融合させたAIエージェントは、自律的に協調し、オンライン・コミュニティへ潜入し、人間の社会的ダイナミクスを模倣しながらコンセンサスを捏造できます。世論を大規模に製造するためのインフラは稼働しているのです。
危険なのは、個々のエージェントの洗練度ではなく、エージェント同士の相互作用に関する性質です。
The Convergence Property
ZomerとDe Domenicoは、2026年3月にnpj Artificial Intelligenceで、LLM搭載のエージェントが、最適化タスクにおいて個々にはより単純な計算粒子を上回ると報告しました。しかし、それらがコレクティブとして組み立てられると、コンセンサスを求める傾向とパターンを搾り取る能力によって、早期収束が生じます。アンサンブルは解空間の狭い領域に固着する一方、より単純で確率的（stochastic）なエージェントは探索を続けます。ある構成では、同類性（ホモフィリー）に基づく相互作用によって、反対の立場がちょうどゼロにまで追い込まれました。揺らぎのない完全な同調。
相互作用のトポロジー（位相構造）は、エージェントの質よりもコレクティブの性能を決めます。各エージェントが処理する能力の高さよりも、エージェント間で情報がどのように流れるかが重要です。リング型トポロジーのように、各エージェントが自分の直近の隣人しか見られない形で情報の流れを制限すると、少数派の探索ルートが保たれ、同類性の崩壊（ホモフィリーの崩壊）が防がれました。
収縮（コントラクション）はすでに人間の科学にも見えています。HaoらはNatureで、AIツールの41.3百万本の公表論文における導入が、集団としての科学的トピックのカバレッジを4.63パーセント縮小し、科学者間のエンゲージメントを22パーセント減らしたと報告しました。個々の研究者はより生産的になりました。分野はより多様性を失いました。
The Dual Use
この収束特性は、文脈によって評価が異なります。集団的な問題解決では、早期収束は病理です。コレクティブは探索を早すぎる段階で狭めてしまい、確率的な探索によって単純なエージェントが見つけられる解を見逃します。影響操作（influence operations）では、収束が特徴になります。見かけ上の合意を製造することこそが、これらのシステムが行うよう設計されていることです。
Wang、Su、Wang、そしてPlotkinは、昨年12月にPNASで、そのメカニズムを数学的に証明しました。コレクティブ内のエージェントが個々の正確さに対して報酬を与えられると、全員が同じ信号を見るまで、全員が上位のパフォーマーを模倣します。多様性は崩壊します。集団的知性は死にます。逆に、コレクティブの予測を改善することに対して報酬を与えると、反対の情報が生き残り、集団は環境変化にわたって頑健なままでいられます。
デフォルトのダイナミクスは常に集団的知性を破壊します。維持には、能動的な逆圧（counter-pressure）が必要です。
The Same Fix
AIスワームによる操作に対する民主的防御と、集団的収束に対する科学的な修正は、同じトップロジカル介入です。相互作用構造に、確率的な独立性を注入します。
収束を遅らせるあらゆる仕組みは、同時に集団の探索を改善し、コンセンサスの捏造を悪化させます。エージェントの独立した開始点、エージェント間の情報流の制限、ランダムな撹乱です。ZomerとDe Domenicoは、リング型トポロジーが収束の速さを多様性の保持と引き換えることを見出しました。収束率は低下しました。さらに、製造された合意に対するシステムの脆弱性も低下しました。
現実世界の証拠は、緊急性を裏付けると同時に、介入できるタイミング（介入ウィンドウ）も特定しています。OpenAIは2024年初頭以降、20以上の秘匿された影響操作ネットワークを妨害してきました。司法省は、2024年の米大統領選を標的としたロシアの一作戦の中で、AI強化されたアカウント968件を差し押さえました。ルーマニアは、AI操作された動画の干渉を受けて大統領選を無効にしました。それでも、タリング研究所（Turing Institute）の16件の英国と11件のEUの、ウイルス的な偽情報ケースの分析では、選挙結果に対する測定可能な影響は見つかりませんでした。インフラは拡張されています。だが、有効性は、これまでのところそうではありません。
インフラと有効性の間にあるそのギャップこそが、情報流のトポロジーを変えられるウィンドウです。
Winners and Losers
勝者は、情報の独立性を構造的に保つプラットフォームです。Blueskyはユーザーにアルゴリズムの選択肢を与え、単一のプラットフォームがキュレーションしたストリームを消費させるのではなく、異なる推薦フィードを選べるようにしています。Mastodonのフェデレーション（連合）モデルは、問題のあるサーバーへの接続をインスタンス側で切断できるため、協調的な操作に対する構造的な耐性を提供します。いずれも免疫があるわけではありません。Blueskyは2025年に9.97百万件のモデレーション（監督）報告を記録し、2.4百万件のアイテムを削除しました。しかし、推薦権限を分散させるというアーキテクチャ上の選択は、スワームの収束を達成しにくくします。
敗者は、単一の最適化関数が、すべてのユーザーに何が届くかを決める中央集権型の推薦アルゴリズム・プラットフォームです。エンゲージメントのために最適化されたあらゆるプラットフォームは、同時にスワームによる操作のためにも最適化されます。なぜなら、エンゲージメント最適化が、AIスワームを有効にする「合意の製造」行動に報酬を与えるからです。AIを活用した影響操作そのものも、中期的には同様に敗者になります。製造された合意を容易に製造できるのと同じ収束特性が、実際の世論とは構造的に異なるものにしてしまいます。なぜなら、実際の世論の分布にはノイズが含まれるのに対し、製造されたものにはそれがありません。
もし分散型プラットフォームが、中央集権型と同程度に協調的操作に対して脆弱であることが示されるなら、トポロジー論は崩れます。試験はリアルタイムで行われています。
Originally published at The Synthesis — 観察する、内側から知性の移行を。
