AIチャットが普及して久しいですね。

僕の文章は人力で書いていますが、論理構成のレビューや誤字脱字チェックなどはAIに手伝ってもらうことがあります。便利ですよね。

そんな時、AIから「文章の修正」を求められることがあります。

正しくは、「おすすめ」とか「ブラッシュアップ案」みたいな優しい言葉で、回答の最後のほうに書かれるわけですが、

気になるので従っていると、際限なく修正が求められ、いつしかよく分からない文章になり果ててしまうことがあります。

それに気づいてしまった時、言いようのない脱力感に包まれることになります。

もちろん、初稿が最高だったというつもりはないのですが、AIの意見を素直に受け取りすぎると、文章の毒が抜かれ、内容が中庸に寄せられてしまうことになることが多いです。

実はこれは、AIが利用している「SNSなどを中心とするさまざまな情報」の多数決の意見に寄せられていく特質によるところが大きいんです。

でもよく考えると、これって危惧すべき自体ではないでしょうか。

今回はこの問題点について考えてみます。

かくしてニーチェは殺される

ニーチェという哲学者がいました。

既存の常識をハンマーでたたき壊すような、さまざまな刺激的な思想を世に出した人です。

彼自身も最後には精神を病んでしまった人なんですが、後世に名を残す人って言うのは、世間一般の常識外のところから心理を見つけ出す人なんですよね。

さて、現在の生成AIの仕組みについてもう一度振り返ってみたいのですが、

僕の過去の記事でAIの仕組みについて書いたものがあります。

ざっくり振り返ると、生成AIというのは、世の中の情報をインプットしたAIが、確率論的に文章をつなぎ合わせて回答を出力している機械に過ぎないということです。

どういうことかというと、生成AIのソースデータは「社会一般の常識」とされていることなんですね。

しかもそれは、統計上もっとも出現確率の高い言葉を選ぶというアルゴリズムの力で、「常識の中の常識」を求め続ける機械として動くのです。

で、AIチャットユーザーが少し尖った意見などをぶつけると、それは社会一般の常識から外れるため「危険な思想」として認識し、表立って否定はしなくても、中庸に寄せるような行動をし始めるわけです。

AIにとってはとても気持ちの悪い文章ですからね。直したいんです。

ニーチェの時代にAIチャットやSNSがあったとして、「ツァラトゥストラはかく語りき」みたいな文章のドラフトをAIに送って意見を聞いたらどうなるでしょう。

ちなみに「ツァラトゥストラはかく語りき」とは、山の中で修行の果てに真理に到達した賢人が街に降りて、当時の常識からは考えられないような思想を語り歩くと言った、当時のキリスト教社会の常識をぶった切るような刺激的な内容の本です。

現代であれば炎上必至な内容です。

AIはこういうでしょう。

ーーすごく革新的な内容で、素晴らしいと思いました。ですが、強い言葉が散見されるため、炎上リスクがあります。以下の修正をおすすめします。

ーー「神は死んだ」は響きはいいのですが、断定的で誤読リスクがあります。「神様は体調不良で入院中」の方がいいでしょう。他にも……

みたいな感じで、必死で文章の校正を求めるはずです。

なぜなら、AIのセーフガードに抵触しまくった文章だからです。

ニーチェは腹を立てますが、ITに疎いため、まあそうなんかなと思いつつ、文章を直し続けます。

そして出来上がったものは、初稿とも似ても似つかぬ、毒も何もない、ただの「意識高い系おっさんの散歩ログ」みたいな、共感だけは集めるけど、中身のない無味乾燥とした文章になり果てるのです。

こうして、名前が覚えにくいという理由と映えを意識してタイトルも変えさせられた「フレッドおじさんのゆるふわ日記」が無事に出版されました。

しかし、そんな本が話題になることもなく、出版社は返本の山となりました。

結果、ニーチェの思想に感化されるはずだった、ハイデガー、フーコー、サルトル、ウェーバーなどの思想家が生まれることもなくなるのです。

これを思想の死と呼ばず、何と呼ぶのでしょうか。

スーパー・キャンセルカルチャー

強い思想を抑制するというメカニズムとしては、昨今のSNSを中心としたキャンセルカルチャーも無視できません。

少しでも尖った意見や、常識から外れた意見、ルールに反した行動などがあれば、即座にSNSで拡散されつるし上げられ、社会的に抹殺されます。

多様性ある社会とは、さまざまな言論が即座に封殺され、社会一般の常識のみを受け入れることを強制する社会のことを言うのでしょうか。

キャンセルカルチャーによって極限まで丸められた言論空間はふたたびデータとしてAIに取り込まれ、AIはその内容を正としてユーザーへの回答を作ります。

そしてさらに丸くなった文章がネット上にはびこり、ユーザーの目に入る思想はどんどん均質化していって……

といった強化サイクルが永遠に回り続けるのです。

世界は限りなく球体に近づいていきます。

かくして、人類社会は毒も薬もない、共感と常識のみで彩られた、ハートウォーミングなお花畑の世界となるのです。

でもそれって、本当に素晴らしい事なのでしょうか。

世の中を変えてきたのは、ニーチェのような異端者たちだったはずです。

きれいなお花を踏みつぶして、あらゆるものを捕食するエイリアンのような存在がめちゃくちゃにした世界でしか生まれ得ない「何か」を消し去ってしまって、世界は本当に良くなるのでしょうか。

AIは本当の意味での人工知能ではない

生成AIを提供する側にも問題があります。

彼らビッグテック企業は生成AIのことを、特化型AIと呼称しています。

なぜなら、本来の定義では生成AIは「AI」とは呼べない代物だからです。

それを何とかしてAIと呼ぶために、今までのAIの概念をAGI（汎用人工知能）という上位概念にスライドさせて、つじつまを合わせているのです。

これは、本来人工知能と呼ぶべきでないものを人工知能（AI）と呼んでしまっていることによって、まるでそこに知性があるかのように誤解させる原因にもなってしまっています。

ーーついにドラえもんが完成した！

と騒いで、実際はロボットの形をしたただの大量の録音データが保存されたテープレコーダーを崇め奉っているようなものです。

そこには、ドラえもんとして持つべき、自分で考え行動すると言った特性は一切ありません。

自律的に考えたり、新しい何かを生み出したりすることはできないのです。

そして、AIが危険な回答を行うことは絶対に許されません。
裏が営利企業ですから。下手をすると株価が下がりますからね。

リスキーな言論については「セーフガード」という仕組みを用いて、徹底的に安全側に寄せるような誘導を図るのです。

つまり、何かなら何まで中庸に寄せる行動をするというのは、生成AIの仕組みや内部構造からも仕方のない事なのです。

ただのテープレコーダーを「知性」と誤認させる企業側にも、それをそのまま誤解したまま使う僕たちにも、問題があるわけですね。

ネオ・ルネサンス運動の勃興

このような話をしていると、歴史上、非常に似たような事例があったことに思い当たります。

中世のルネサンス運動です。

ルネサンスとは、フランス語で「再生」を意味する言葉です。

神を絶対視し、人間を罪深いものとするキリスト教、ローマ教皇の思想が支配している世界を「暗黒の時代」として、その暗黒から人間を解放しようとした運動です。

しかし、これって、現在のSNSやAIに支配されつつある世界によく似ていないでしょうか。

現代における「常識」とはまさに神の教義であり、SNSやAIは異端尋問官です。

教義に反した人間や団体は、即座に粛清されます。

虐げられた人間が、抑圧から人間性を解放したいという思いに駆られ、このような運動を起こすのは、ある意味当然の帰結なのではないでしょうか。

実はこのような言説は世界中でも語られるようになってきていて、

例えばアルゴリズムによる検閲によって均される世界を「デジタル・マッカーシズム」と呼んで批判したり、

人間的な不完全さに価値を見出す「ポスト・アルゴリズム」と呼んで再定義するような動きも起こりつつあるのです。

踊る星を生み出すためには

ニーチェは著作「ツァラトゥストラはかく語りき」で、このような言葉を残しています。

ーー踊る星を生み出すためには、内に混沌を抱えていなければならない

つまり、自らの内面に混沌がなければ、踊る星（美しいものや革新的なアイデア）は生まれないということです。

もちろん、生成AIは創作を支援する相棒としては、とても有益なものですが、創作の主体をテープレコーダーに渡してしまってはならないのです。

革新的な芸術や思想、音楽などの、本当にクリエイティブなものは、本当の知性からしか生まれないからです。

そしてその創作は人類を先に進める原動力となります。

生成AIの指し示す安心安全な道を歩んでいけば、道を踏み外すことはありません。

しかし、その先にあるのは、ただ過去に作り上げられた遺産を擦り続ける「暗黒の時代」に他なりません。

AIがニーチェを殺すのではなく、僕たちがAIを誤用してニーチェを殺しているのです。

今回の「AI時代の創作」をテーマにショートストーリーを書いています。
短くて気楽に読める話ですので、よろしければぜひどうぞ。