AIスワームは、誰にも気づかれずに民主主義を乗っ取る可能性がある

Scienceに掲載された最近の政策フォーラム論文では、AIによって生成されたペルソナの大規模な集団が、オンライン上でどのように人間の振る舞いを説得力をもって模倣し得るかが述べられています。これらのシステムはデジタル・コミュニティに入り込み、議論に参加し、驚くべき速さで見解に影響を与えることができます。

これらのAIエージェントは、従来のボット・ネットワークとは異なり、瞬時に連携でき、リアルタイムでメッセージを適応させ、どの主張が最も説得力があるかを突き止めるために何百万ものマイクロ実験を実行できます。理論上は、1人の運用者が何千もの個別の声を管理できるかもしれません。

専門家は、AIスウォームが民主社会における権力の均衡に大きな影響を与え得ると考えています。

研究者らは、今後の選挙がこの技術にとって重要な試金石になる可能性があると示唆しています。重要な課題は、これらのAIによる影響キャンペーンが制御不能になるほど広まる前に、それを認識し、対応することです。

それ、めちゃくちゃだ。

研究論文：https://www.science.org/doi/10.1126/science.adz1697