こちらは、「人間の能力をはるかに超える単一のAI（ASI）が、自分を改良し続けて指数関数的に性能が爆発する」というシンギュラリティに対するイメージに対して、意見を述べている論文になります。

Society of thoughtという概念

著者らは、「知能とは、個人の頭の中だけで成り立つ能力ではなく、もともと周りとの関わりの中でその能力が発揮される」と述べています。実際に人間も、言葉や文化、社会の仕組み、役割分担、他の人とのやり取りなどがあるからこそ、よく考えたり判断したりできます。

この考え方を踏まえて、最近のエージェンティックAIの発展のしかたを見ると、AIの知能に関しても同じように理解できると述べられています。つまり、知能の高度化は1つの頭脳の巨大化によって起こるのではなく、AIたちの異なる視点が相互作用することによって起こるという主張になります。

実際、著者らの先行研究では、DeepSeek-R1やQwQ-32Bなどの推論モデルの推論性能の向上の背景に、モデル内部で「話し合い」が起こっているかのような相互作用があると示唆されています [1] 。このような考え方が「society of thought」になります。

著者らの指摘

先述のsociety of thoughtが生じていることを踏まえ、著者らは以下のような指摘をしています。

1. 人間社会のチームや組織の知恵を、AIに取り込むべき

人間社会では、チームや組織をうまく機能させるために上下関係、役割分担、分業、意見の違いなどといった要素が存在していると述べられており、著者らはこのような「集団が賢く働くための仕組み」を、AIの推論の仕組みにも積極的に取り入れるべきだと提案しています。

加えて、従来のAI関連の研究では、こうした組織論・チーム科学の知見がほとんど活かされていないとも指摘されています。

2. 調整やガバナンスは、個人ではなく制度で考えるべき

これまで主流だったRLHF（人間のフィードバックでAIを学習させる方法）のような方法は、基本的に「AIと人間」という二者の関係で考えられてきました。しかし著者らは、これからは数十億規模のAIエージェントが社会に存在するような世界を想定すべきだ、と主張しています。

そのような世界では、個々のAIを1つずつ良い方向に訓練するという発想だけでは機能しないので、社会全体の制度やルールの設計というレベルで、AIの振る舞いや安全を考えていく必要があると指摘しています。

次の「知能の爆発」は

論文の結論として著者らが描くのは、次の知能の爆発は1つの神のようなAIが指数関数的に賢くなっていくようなシナリオではなく、 人間80億人と数百億〜数兆ものAIエージェントが互いに影響し合う、複合的な社会として進んでいくシナリオです。
この未来像はユートピアでもディストピアでもなく、「たくさんの個体が相互作用しながら、社会全体が変化していく」という、生物の進化論的なプロセスであると位置づけられています。

そして、そのような前提に立てば、政策や安全対策の焦点も変わってきます。「まだ存在しないかもしれない、神のような1つのAIをどう防ぐか」ではなく、「人間とAIが混ざり合った社会のシステムを、どう設計するか」という考え方に移行すべきというのが著者らの主張であり、ガバナンスの観点でも「AIを監査するAIを、誰が監査するのか？」という、対応が困難な課題に直面することになると述べられています。

このような課題に対して著者らが提案するのが、「憲法的な構造」です。
これは、透明性・公平性・適正な手続きといった、異なる価値観・役割をそれぞれ担うAIが、互いを牽制し合う仕組みを設計するという発想です。
1つのAIが絶対的な権力を握るのではなく、人間とAI、そしてAI同士が密接に関わり合いながら知能を形成し、複数のAIがそれぞれのバランスを保つといった仕組みが、これから訪れるであろうマルチエージェント社会においてはますます重要になるでしょう。

Humans "remain" in the loopが意味するもの

AIの進化を語る場面では、「人間はそのうち判断の輪から外れるのでは」「最終的にはAIが意思決定の中心になるのでは」というイメージが先行しがちですが、今回の論文では、これからの知能の爆発は人間を排除することで起きるのではなく、人間とAIが混在した状態で相互作用しながら進むと考察しています。
つまり、人間は判断の輪から消えるのではなく、残り続ける存在として位置づけられています。

ただ、残り続けるという表現を「承認ボタンを押す係」として認識すべきではありません。確かに最終確認・承認は大事な部分ではあるのですが、その過程において、人間がAIの出力を責任を持って評価できることが前提です。

例えば、調剤薬局によってはAI搭載の薬歴が活躍していると思いますが、使っているシステムによっては、服薬指導の内容から薬歴の草稿を作成してもらえるだけでなく、処方（入力）内容やこれまでの薬歴をもとに今回の服薬指導のポイントを提示してくれるものもあります。

AIがくれたアドバイス通りに服薬指導をすること自体は悪くありません。ただし、その内容をきちんと自分の頭で整理し、理解・納得した状態で服薬指導に臨まなければなりません。
この部分ができていなければ、実質人間が「AIのスピーカー」になっているような状態のため、薬剤師として患者さんに対する説明責任を果たせているとは言えないでしょう。

しかも、論文はマルチエージェントが実現したあとの社会を念頭に置いています。おそらく複数の異なる役割が与えられたAIエージェントたちから、様々な視点からの提案（もしくは統合された形の提案）がされることになると思われます。
そのような提案に対して、薬剤師の専門知識とコミュニケーション能力を総動員して、適切に判断を下していかなければなりません。言うまでもなく、これまで以上に深い知識と判断力が必要になるでしょう。

今回のまとめ

今回の論文で述べられている人間とAIの未来像は、一般的に想像されるシンギュラリティのシナリオではなく、人間80億人と数百億〜数兆ものAIエージェントが互いに影響し合うシナリオとなっています。
「Googleの研究者らが『人間もループに残るべきだ』と主張した」と表現すると楽観的に聞こえるかもしれませんが、今回の論文は、今まで以上に「AIを監督し、異なる判断を吟味し、定められた制度の中で運用する能力」が重要になることを示唆しています。

特に薬剤師のような専門職の人間は、高度なAIと協働するにあたって、AIが出してくる複雑な提案を理解したうえで様々な判断を下すことになるでしょう。ゆえに、これまで以上に深い知識が必要になりますし、柔軟な判断力も必要になります。そして、その知識を患者さんに伝えるためのコミュニケーション能力も磨く必要があります。

しかし、これらは決して新しい課題ではありません。既に現代の薬剤師にも必要とされている能力です。つまり、AIがどれだけ進歩しても、人間の薬剤師がすべきことの本質は変わりません。

参考文献

[1] Kim, J et al. (2026). Reasoning models generate societies of thought (arXiv:2601.10825). arXiv.

最後までお読みいただき、ありがとうございました。
Webサイト「薬剤師のためのAIノート」も、是非ご覧ください。

記事に関する内容以外のお問い合わせは、以下のフォームよりお願いいたします。

また、書籍「超知能時代の調剤薬局」発売中です。
Kindle Unlimited会員の方は無料で読むことができます。