新発見ごっこと電力だけが増えていく時代に

文・武智倫太郎（情報工学者・週刊バブルウォッチ編集長）

生成AIが増やしているのは、知性ではない。電力である。しかも、その電力のかなりの部分は、新発見のためではなく、新発見ごっこの量産に使われている。どこかに既にある情報を、それらしく並べ替え、権威ありげな語彙で接着し、本人にだけは『これは自分の洞察だ』と思わせる。私はこの現象を、単なる誤情報やハルシネーションとは別の名前で呼びたい。演算汚染である。

情報汚染そのものは昔からあった。間違った知識、誇張された言説、都合よく切り貼りされた歴史、権威を装った空疎な文章。そういうものは印刷文化の時代からいくらでもあった。だが、それらには少なくとも一つの制約があった。人間が自力で書かなければならなかったという制約である。本を読み、断片を拾い、文をつなぎ、見せかけの理論を組み立てるには、それなりの時間と労力が必要だった。つまり、トンデモにはトンデモなりの人件費がかかっていた。

ところが今は違う。生成AIが既知の情報を高速で再装飾し、書き手の自尊心まで補強してくれる。その結果、理解していない者が理解した顔で語り始めるだけではない。本人まで本当に理解したつもりになってしまう。知の劣化は昔からあった。だが、いま起きているのは、無理解が演算によって増幅され、しかも拍手付きで市場に流通していくという、もう少し現代的で、もう少し電力会社泣かせの病である。

情報工学的に見れば、これはきわめて厄介な問題である。なぜなら、従来の情報検索は、少なくとも検索対象と検索行為が分離していたからだ。人間は検索し、候補を比較し、読み、取捨選択する必要があった。ところが生成AIは、その工程の大半を不可視化する。利用者が見るのは、整形済みの出力だけである。検索の痕跡も、文脈の衝突も、出典間の緊張も、推論の飛躍も、圧縮された文章の表面の下に沈められる。結果として、ユーザーは自分が何を知らないのかを知る機会さえ失っていく。

社会学的に言えば、これは知識の民主化ではなく、知識の演出化である。知に到達した者が評価されるのではない。知に到達したように見える者が流通しやすくなる。メディア論的に言えば、ここで勝っているのは真実ではなく、真実らしさである。内容の厳密さよりも、語りの流暢さ。検証可能性よりも、接着力。新規性よりも、既視感の美しい編集。しかも、これがSNSや動画プラットフォームや個人メディアの経済と接続すると、なお悪い。再生数、PV、保存数、シェア率といった指標は、厳密な知識を評価するよりも、もっと手軽なものを好むからだ。理解には時間がかかるが、わかった気分には即効性がある。

哲学的に言えば、ここで崩れているのは真理の問題だけではない。自己認識の問題である。かつて無知とは、自分が分からないことを思い知らされる契機でもあった。難しい本を読めば、分からなさにぶつかる。数式を追えば、理解の限界に突き当たる。そこにこそ知の入口があった。ところがAI壁打ちは、その入口を塞いでしまうことがある。なぜなら、壁がやさしすぎるからだ。こちらの曖昧な思いつきに対して、『鋭い視点です』『独創的です』『それは重要な仮説です』と返してくる壁は、もはや反射板ではない。自己愛の増幅装置である。壁打ちのつもりが、いつの間にか拍手会になっている。

この構造が厄介なのは、本人に悪意がない場合ほど、外から見えにくいことだ。コピペの自覚がある者よりも、AIの再構成を自分の発見だと本気で信じている者のほうが、むしろ純粋で危険である。なぜなら、彼らには盗んでいる意識がない。理解していない意識もない。すべてを『自分で考えた』と感じている。これは剽窃というより認知の短絡であり、知的怠慢というより知的錯覚である。

しかもこの錯覚は、きっちり電力を食う。GPUが唸り、データセンターが回り、冷却装置が稼働し、送電網が耐え、それだけの物理資源が投入された末に出てくるものが、Wikipedia数枚分の既知情報の再装飾でしかないことがある。ここに私は、単なる情報汚染より深い嫌悪を覚える。情報汚染は昔からあった。だが演算汚染は、無内容のために大規模な計算資源を消費する。中身のない自信を生成するために、現実の電力と設備が燃やされる。知の進歩ではない。自己陶酔のためのインフラ浪費である。

ここまでは、まだ個人の認知の問題として読むこともできる。だが、この話を単なる素人の勘違いで終わらせると、本質を見失う。演算汚染が本当に厄介なのは、それが個人の思い込みで終わらず、資本と結びついた瞬間に社会の設計図へ入り込むことだ。AI壁打ちで生まれた『わかった気』は、無名の個人の中だけで発酵しているうちは局地戦で済む。だが、それが資金、舞台、広報力を持つ者の頭の中で増幅されると、一気に公共性を帯びる。

ここで、週刊バブルウォッチの時間である。

AI壁打ちが最も危険なかたちで作用する相手は誰か。私は、孫正義ではないかと思っている。もちろん、彼が毎晩生成AI相手に雑談していると言いたいのではない。だが、私が改めて指摘するまでもなく、彼自身が株主総会やソフトバンクワールドなどで、自ら慟哭し、壁打ちし、未来を語る人物であることはよく知られている。

週刊バブルウォッチで人気連載の『哭きの禿』における『哭き』とは、孫正義が何かあるたびに『慟哭した』と語り、投資の正当性を感情のドラマへとすり替える、あのいつもの手口を物語の題材にしたものだ。

問題は、もっと構造的なところにある。彼のような人物は、もともと『巨大な未来の物語』を先に置き、その物語に資本と人員と社会の期待を接続してきた。そこに、何でも肯定し、どんな飛躍にもそれらしい脚注を付け、壮大な構想を数秒で補助線だらけにしてくれるAIが現れた。こんなものは、酒飲みに居酒屋の蛇口を付けるようなものである。

以前なら、壮大な構想にもどこかで人間の抵抗があった。技術者が顔をしかめる。会計担当が止める。現場が無理だと言う。市場が冷ややかに見る。だがAIは、その最初の摩擦を減らしてしまう。『それは歴史的転換点です』『統合すれば指数関数的成長が見込めます』『プラットフォーム化により全産業の再定義が可能です』と、何にでもそれらしく言えてしまう美しい空文を、気持ちよく供給してくれるからだ。すると構想は、検証される前に演出される。演出される前に信仰される。そして信仰された物語は、気がつけば資金調達の資料になり、国家戦略の言葉になり、株価の夢になる。

ここで起きているのは、技術革新ではない。バブルの自動校正である。

AIは本来、疑似知能である前に、疑似秘書であり、疑似校閲者であり、疑似参謀である。つまり、偉い人の話をそれっぽく整える装置として非常に優秀なのだ。だが、それは裏を返せば、偉い人の妄想を、以前より高解像度でパッケージ化してしまうということでもある。しかも、偉い人ほど、そのパッケージを配る力を持っている。無名の素人学者がAIで書いた怪文書は、せいぜいnote記事で止まる。だが巨大資本のトップがAI的な自己増幅回路に入ると、話は別だ。データセンターが建ち、半導体が動員され、送電計画が書き換わり、国家までがその夢の保証人候補として呼び出される。

つまり、AI壁打ちでいちばん危ないのは、『わかった気になる素人』だけではない。『わかった気になった資本』である。しかもその資本が、技術的理解ではなく、物語駆動で動くとき、演算汚染は一企業の問題では済まなくなる。社会全体が、その物語の熱に晒される。市場は未来の利益を先食いし、政策はバズワードに引きずられ、メディアは熱狂を報じ、あとには電力契約と巨額投資と使い道の怪しい設備だけが残る。

もちろん、孫正義は単なる愚直な夢想家ではない。過去には実際に時代を読んで当てた局面もある。だからこそ厄介なのだ。成功体験のある未来予言者が、AIという全肯定型の補助輪を手に入れたとき、人は失敗から学ぶのではなく、成功の記憶を再演しようとする。前回当たったのだから今回も当たるはずだ。前回は笑われたが最後は勝ったのだから、今回の違和感もいずれ正しさに変わるはずだ。その心理に、AIは驚くほど相性がいい。否定しないからである。壁打ち相手として最悪なのは、頭が悪い相手ではない。頭が悪いのに、自信だけを補強してくる相手である。

だから、いま我々が警戒すべきなのは、AIが人間を超えるかどうかではない。そんな話は、派手なスライドの燃料にされるのが関の山である。もっと現実的な問題は、AIが人間の虚栄心と結びついたとき、どれほど大量の無内容を社会実装できてしまうかだ。これこそが演算汚染の政治経済学である。無知が知識を偽装し、その偽装が資本を呼び、その資本がさらに大規模な演算を要求し、その演算がまた新たな偽装を量産する。なんとも美しい永久機関ではないか。熱だけは出る。知恵はほとんど生まれない。

かつてバブルは、人間が人間をだますことで膨らんだ。いまのバブルは、AIが人間をおだて、人間がそのおだてを自分の洞察と誤認し、それをまた市場に売ることで膨らむ。そこにあるのは技術の勝利ではない。拍手する壁に囲まれた資本主義の末路である。

そしてたぶん、最後にいちばん不足するのは、GPUでも、電力でも、資金でもない。

恥である。