ケン・リウ がその存在感でChinaTalkを彩ります。彼は ダンデライオン王朝 というシルクパンクのファンタジーシリーズの著者であり、優れた短編小説の作家でもあります――彼のある作品はつい最近、サム・アルトマンのお気に入りの番組である 『パンテオン』 にてアダプトされました。私たちは彼の、『三体問題』 トリロジーの第1巻と第3巻に関する翻訳業が素晴らしいことも知っていますが、さらに素晴らしいのは 『道徳経（老子）』 の、まさに天才的とも言える翻訳と注釈です。私はこの取り組みによって、彼が古典中国語の翻訳の道に完全に乗っていくのではと思っていましたが、その後はまったく別の方向へ進みました――テクノ・AIスリラー、『All That We See or Seem（私たちが見、またはそう見えるすべて）』 です。昨年末にリリースされました。共同ホストとして、ChinaTalkのIrene Zhang も加わります。
幅広い対話の中で、ケン・リウは次のように論じます：
テクノロジーは、私たちが行う最も人間的なことだ――人間は常に自分の心を世界に外在化し、その後に、その創造物が自分たちのあり方を作り変えることを許してきた。
AIの“スロップ”は、価値のある芸術を生み出す人間の営みを止められない。本当の違いは、質とスロップの間ではなく、欲望を満たすマシンと、集合的無意識から汲み取る芸術家の間にある。
AIのより深い危険は、人間を機械が置き換えることではなく、人間を機械のように振る舞うよう訓練する仕組みにある。
サイエンス・フィクションは予言ではなく、神話だ――そしてイデオロギーは、その格安の“ハック甥・姪”にすぎない。オーウェル、シェリー、トールキン、ル＝グウィンが生き残り続けるのは、未来を予測できたからではない。世代を超えて思考のために使えるほど強力な比喩を、私たちに与えてくれたからだ。
大規模言語モデルは賢いが、賢明ではありえない。老子と荘子に基づいて、ケンは、本当に重要なことはすべて言語の向こうにある理由を説明する。
今すぐ お気に入りのポッドキャストアプリ で聴いてください。
人間の表現としてのテクノロジー
返却形式: {"translated": "翻訳されたHTML"}
Jordan Schneider: 私たちは「Claude Code（クロード・コード）」の時代に生きています。あなたが書いた一節から始めたいのですが、未来のコーディングと執筆についてのビジョンを、まず組み立てて説明してから読んでみてくれませんか？
Ken Liu: まず、この本が実際には何についてのものかを言わせてください。 All That We See or Seem は、テクノ・スリラーです。というのも、作中に登場する技術は、本当の意味では誰もが思いつくほど予測不能なものではないからです。すべて、すでにここにあるか、あるいは、ほんの少しスケールアップすれば十分に実現可能なものです。
Julia Z はハッカーであり、クラリス・スターリング や ジェーン・ホワイトフィールド のような型のヒーローです。つまり、非常に強い倫理観を持ち、同時にとても暗い過去を背負った人物。彼女はその過去から逃れようとしていますが、出来事が次々と引き戻し、内にいる「悪魔」に向き合わない限り、外部からの脅威に打ち勝てないと悟るのです。この小説では、彼女は AI とロボティクスに関する専門的な技能を持っていて、姿を消したある芸術家を見つけるよう命じられます。AI を使って、大勢の観客が一緒に夢を見られるよう助ける芸術家です。
これから私が読むのは、AI の時代におけるジュリアの姿をめぐる考察です。まずは、私の心にとても近い――「プログラマーであるとはどんなことか」についての一節です：
一番大変だったのはプログラミングだった。タロスの助けもなく、せめて哀れなコーダーモンキーやデータジンのような存在の助けすら借りずに、コードを書けるほどの経験は、ジュリアにはほとんどなかった。同じように、現代の作家の多くが、AI をリサーチ補助者、ファクトチェッカー、辞書、類語辞典、文法家、そして極端な場合には代筆者として使わずに、たとえ 500 語ほどの文章さえ組み立てられないのと同様に、現代のプログラマーのほとんども、コーデッドーモン、バグジーニー、パッチスプライト、スクリプトピクシー、そしてそれに類する無数の人工知能の助けなしには、きちんと動く取るに足らない規模ではないアプリケーションを作り出せないのだ。
ホモ・サピエンスは昔から、心を世界へと外部化してきた。ミツバチが、蝋の巣と甘い蜜という形で自分たちの思考を見えるものにしていたのと同じように、人間もまた、書籍、絵、計画、記録という形で、心を世界へと滲ませてきた。しかし、その流れは、これほどまでには至ったことがなかった。いまや、知識の大半とは「どこを見ればいいのか」を知っていることと、「AI に最良のプロンプトをどう渡すか」を知っていることになってしまっている。そして、心の多くは頭蓋の内側にとどまらない。フィスクジンやメモエルフ、エゴレットの中に染み込み、人工のアシスタントやヘルパー、エイド・メモワールに広がり、コギトロンや電子やロゴンに刻み込まれ、頭の中の、やわらかな灰色の物質の内部よりも外に、その存在の大部分がある。
ジョーダン・シュナイダー: まず、現代のすべてのホワイトカラーの労働者がいま取り組んでいる何かを掘り下げるために、ジャンルとしてテクノ・スリラーを選ぶという発想から始めましょう。
ケン・リウ: ジャンルのラベルは、私にとってはほとんど無関係です。私のすべてのフィクション——どんなマーケティング上のジャンルであっても——本質的には技術的です。ダンデライオン王朝であれ、短編であれ、ジュリアZシリーズであれ、それらはすべて、人間がテクノロジーを通して自分自身の一部を表現するとはどういうことなのかを描いた物語です。
他の種と比べて、人間に独自な何かがあるとすれば、それは根本的に私たちの技術的な性質です。これは重要です。「サイエンス・フィクション」として説明される多くのものは、実際にはサイエンス・フィクションですらありません。科学とはほとんど関係がないのです。それらは技術の物語です。私にとって「テックフィ（techfi）」のほうがはるかに面白い。技術と科学はまったく別の学問領域で、いわゆるSFの大半は実のところテックフィです。というのも、それが本当に問うているのは、人間が自分の創造物を通じて自分自身をどのように表現するのか、ということだからです。
私たちは、自分が誰であるかを、自分が作るものを通して表現する唯一の種です。宇宙に存在しなかったものを思い描き、そして実際にそれを現実のものとして——私たちの頭の中の構想を、世界の中で具体的に裏付ける（実体化させる）. そして、こうした技術的な現れ——私たちがそこから滲み出てしまうようなもの——は、その結果として私たちが誰であるかそのものを変えます。私たちは、自分の創造物と対話し、それと相互作用し、さらにはともに進化していきます。ほかのどの種もこれをしません。
私たちの伝統における大きな哲学的議論のひとつは、人間は技術なしのほうがより人間的なのか、それとも技術があるほうがより人間的なのか、という点です。この議論はプラトンにさかのぼり、荘子にもさかのぼり、あらゆる偉大な哲学者にまで及びます。言語とは何か？ 言語そのものについての徹底的な懐疑的な詮索——それは、実のところ、人間の本性についてのこの議論そのものです。
現代の世界では、私たちはしばしば、技術はどういうわけか自分たちのあり方の外側にあるものだ、という立場に自然と立ってしまいます。警戒すべき何かだ、と。私にとってそれは筋が通りません。人間の技術は、人間の本性の現れです。実際のところ、私たちが作るもののうちで最も人間的なものです。人間の本性を理解せずに、人間の技術を理解することはできません——文字どおり、私たちの心の内側にあるものを手触りのある形で裏付けるものだからです。人間の本性が何かを理解するには、人間の技術を問い直し、そして私たちが自分の創造物とどのように共進化していくのかを、本当に理解しなければなりません。ジュリアZシリーズが本質的に扱っているのは、まさにそれです。
アイリーン・チャン: あなたは、「ジン（jinn）」という比喩を使って、マーケティングの世界がAIエージェントと呼びうるものを描写しています。それは明らかにアラビアの神話やイスラムに由来します。なぜその比喩を選んだのですか。また、AIを理解するために私たちが使う比喩について、あなたはどのように考えていますか？
ケン・リウ: まずすぐに答えるなら、私は「コットン・ジン（cotton gin）」という言葉に興味を持っていました——それは「コットン・エンジン（cotton engine）」の略で、つまり言葉遊びの一種のやり方です。その「ジン（gin）」を別の種類の「ジン（jinn）」に変えるのはなぜでしょうか？
技術が言語によってどう表現されるかを見ると、それはとても神話的です。私たちはどうやって技術に名前をつけるのかを考えてみてください。なぜアメリカは、自国の宇宙計画の名前をギリシャやローマの神々にちなんで決めたのでしょう？ 技術が現れるあり方には神話的な要素があります。というのも、技術は私たちのあり方から独立したものではないからです——技術は、私たちが夢見る方法なのです。
技術が人間の本性をこれほどまでに表現できる理由は、それが私たちのいちばん深い欲望や夢の現れだからです。私たちは昔から、神話を使って技術を表し、理解してきました。 テクノロジー企業が自分たちの創造物をどう語り、どう売り込むかを見てください。そこにはいつも神話的な要素があります。もし私がそれらをジンと名づけなかったら、不自然でしょう。こうした会社はそう考えているのだから、神話的な名前でなければいけません。
ジョーダン・シュナイダー: これは時代が変わっているのでしょうか？ あなたはそのくだりで否定側の議論をしているように見えますが、その一節では、あなたの登場人物がやっている——あるいは私たちが今日やっている——ように、脳を外部化することは人類の歴史の中で独自の出来事だ、と言っているのです。
劉 慎（ケン・リウ）： 創造物へ脳を外在化することが唯一無二のものではないのは事実です。読めるようになったすべての子どもは、はるか昔の生き物たちから生まれた心的なパターンと交信する、その瞬間を経験しているのです。今日あなたがプラトンの対話篇を読んだり、荘子の物語を読んだりすると、それは何千年も前の心と交信していることになります。実際に考えれば、これはとても奇妙です。ほかのどんな生き物にもできない何かに関わっているからです。私たちは過去の心的な構成物と交信している。
たとえば計算がどうなるか考えてみてください——長除法、積分、テンソルを解くことです。あなたはペンと紙を使って脳を外在化している。あなたの認知機能は文字どおり紙の上に外在化されているのです。とても奇妙なことです。脳はそこにあって、身体を使ってそれとやり取りし、そしてまたそれを取り戻す。ほかの生き物はこれをしません。
では、AIはそれと比べて本質的に大きく違うのでしょうか？ 私はそうは思いません。大規模言語モデルを理解する最良の方法は、1980年代の構造主義者たちに立ち戻って読み直すことです。ロラン・バルト は、非常に文学的な社会——何千年もの書き物を負い、あるいは祝福され、何百万という著者がいる社会では、私たちは言葉に囲まれている。つまり、それらの言葉の背後にある心に囲まれている、と述べました。現代の作家、つまり「スクリプトリオ（筆記者）」とは、無から生み出す著者ではなく、要するに過去の書き物という完全なコーパスの前で、ただ喋っているような存在です。あなたは言葉遊びをしているだけで、参照が参照を呼び、さらに参照への言及が参照を呼ぶ。あなたは、あなたがより多くの書き物を口にしながら、この、過去の書き物の遊び場への通り道、導管として振る舞っているのです。
バルトはこれを「作者の死」を語るための言い方として書きましたが、大規模言語モデルの時代に今それを読むと、彼がまさに描写していたのはそれだと気づかされます。 大規模言語モデルは、その想像上の、あらゆる書き物の辞書の実体化です。言葉が生き物のように立ち上がってくる。それは、人類が書いてきたものすべてのコーパスを、あなたが取り調べているということです——この「プルリブス」、多心的なものとして、あなたが関わっている。
それが、AIが私たちがこれまで技術に対してやってきたことと、実はそれほど違わないという私の主張です。
ただ、興味深い違いもいくつかあります。歴史上初めて、私たちは「知能」と「意識」は同じものではない、という考えに直面しています。
より古いSF文学を調べると、そこには大きな前提があります——知的な何かは、必ず意識を伴うはずだ、ということです。何かがより賢ければ賢いほど、必ず意図、意志、欲望、そして、知的な行為の背後に何らかの心があるという感覚——つまり「それが何かである」という主観——を伴うはずだ、という前提です。
いま私たちが見ているのは、これらのモデルが知的であることに疑いの余地はない、ということです。世間でよく聞く言説——「ただの、非常に強力なオートコンプリートだ」——は、とても愚かです。その説明は技術的には正しいけれど、意味がありません。人間も統計的な可能性の寄せ集めにすぎない、と言っているのと同じです。はい、それは技術的には正しい。でもそれで何が言えるのでしょうか？
問題の本質はこれです——もし何かがエッセイを書けて、司法試験に合格できて、SATで満点が取れるなら、それを「知的ではない」と言うのは筋違いも甚だしい。明らかに知的です。ですが、意識はない。LLMが意識を持っていると主張する人は、私の知る限りそれほど多くないでしょう。
これはとても奇妙です。知能が、意識から、意志から、意図から、主観から、完全に切り離されて存在しうるという事実——それは気味が悪い。私たちはまだそのことを消化しきれていません。私たちはなぜこれほど主観を価値あるものだと思うのに、いまや知能そのものにはそれほど価値がないと考えてしまっているのか、その理由を理解しようとしています。多くの私たちは、すでにその方向へ傾いているように見えます。
正直に言うと、だからこそ Pluribus（Apple TV）のような番組が面白い。神話的にこの問いと取り組んでいるからです——何がより重要なのか、主観か、知能か？
スロップの時代
ジョーダン・シュナイダー： ひとつ取り上げられるテーマとして、あなたの世界に“AIスロップ”が溢れてくる未来があるのは確かだ、という考えがある。でもそれでも、観客は実際に会って、呼吸して血を流す、そういう特定の人間とのつながりを直接持ちたいと思う何かが残っている。あなたの主張は、その裏に人間がいることについて、本質的に魅力が残り続ける部分がある、ということのように思えます。これらのモデルがどれほど良くなっても。
劉 慎（ケン・リウ）： まず最初に、本の中で私は、どちらかに決定的な立場を取る特定の主張を持っているわけではない、と言っておきたい。私のフィクションは出版され、人々はそこにある特定の視点を見出します——時には、読者が、正反対の見方をそれに当てはめることもあります。実はそれは、私が成功しているサインなんです。なぜなら私は、プロパガンダという意味でのメッセージ性をできるだけ薄くして、あえてフィクションを書くようにしているからです。プロパガンダとして書かれたフィクションは、私にとってはあまり面白くありません。 アイン・ランドは有名な通り、非常に人気のあるプロパガンダを書くのですが、私はそういう種類のフィクションは面白いとは思いません。私のフィクションはすべて、美学的な作品で、複数の主張を支持するようにも、意図的に読めるようにしています。なぜなら現実とはそういうものだから。現実を取り出して、違うメッセージに合わせて解釈できるのです。
とはいえ、AIスロップをめぐる現代の不安は理解できますが、それは歴史的な文脈づけが必要です。 私たちはすでにスロップの世界に生きています ——AIが作るのではなく、大量生産されたスロップとしてです。
写真術が発明される前のことを、思い出してみてください。人生で見られる画像はせいぜい数百枚程度だったでしょう。それらのすべてが、実在の人間によって手作りで作られている。教会のステンドグラス。名の知れた絵画——旅行できるほど裕福なら見に行ける。絵を描くことを学んだなら、自分で作った数枚の絵。友人が描いた絵。誰かが、画像を手作業で印刷版へ翻訳しないといけないような、本の中の図版。人生のうちにそうしたものは数百点ほど。
写真撮影と写真の複製技術のあと、私たちはウォルター・ベンヤミンが「機械的複製の時代」と呼んだ段階に入りました。私たちは画像に囲まれている——たった1日のうちに何十万枚もの量です。その大部分はスロップです。クリップアート、グラフィック・プログラムで作られた画像、そして、パブリックドメインのものを少しだけ加工して複製したもの。
私の主張は、これが芸術を壊したわけではない、ということです。人間が芸術を味わえなくなったわけでもない。AIスロップの時代に、なぜ私たちが実際の芸術の制作をやめてしまうと思うのでしょうか？ 私たちはすでにスロップの時代を生きていて、それに完全に取り囲まれている。それでもスロップが増殖したことで、私たちはよりいっそう芸術的に面白くなり、より興味深い人間の芸術を作り出せるようになった。 それが将来も変わらないと私は見ています。私たちはスロップへの対処の仕方を知っています。機械的複製の時代はすでに来ていて、AIスロップの時代もそれと何ら変わりません。この件に関する道徳的パニックは、私は見当たりません。
さて、それは「雇用の喪失につながらない」と言っているのとは同じではありません。機械的な複製の時代は、多くの芸術家たちにとって雇用の喪失を引き起こしました。とりわけ、彫刻師（グレートな芸術家たちで、絵画や素描を印刷用の版へと翻訳しなければならなかった人たち）です。ええ、彼らは追われ、そしてそれはつらい移行でした。私たちは今日も、同じくつらい移行に直面するでしょう。しかし、AIの“でっち上げ”が芸術を破壊するという考えは、まったくもって誤っています。歴史的に見て、これまでのどれにも、それがそうだったことはありません。
私がより関心を持っているのは、この技術が人間に創造的に何を可能にするかです。歴史を振り返れば、人間の職人技の一部を置き換えるような技術が現れたあらゆる場合において、人間は最終的に、その技術を使って職人技を実践することを学んできました。
人間はカメラで職人技を実践してきました。カメラがただ「ボタンを押せば、化学と物理が絵を作る」だけの存在だったとき、それは面白くありません。でも、人間がカメラを芸術的な道具として使う方法――それでどのように物語を語るか――を学んだとき、そこからシネマが生まれ、TikTokが生まれ、YouTubeが生まれ、そして映像アートが大きく爆発的に広がりました。そうしたものは、カメラなしには不可能だったのです。
AIでも、これと似たことが起きるはずです。現在のAIは、指示（プロンプト）を与えると何かを生成してくれる段階にあります。これは職人技とは程遠い――それに工夫や技能の余地がない。けれども、これはこのままでは終わりません。時間が経つにつれ、アーティストたちは見出すことになります。これらのモデルを実際に面白い形で使うために必要な“可能性（アフォーダンス）”は何なのか？ 潜在空間の中で、生成器を正確にどのように位置づけるのか？ モデルの重みの中にある推論と関連づけの連鎖を、どのように正確に区切って、望むものを生成するのか？ あるいは、カメラの設定をダイヤルで調整したり、ポーズを用意して、画面の構図を決めたりするのと同じように、どうすればこのモデルを正確に操作できるのか？
こうしたアフォーダンスが、AIを道具として使って作品を作りたいと考えるアーティストにすべて与えられたとき、そしてそのときに限って、人間によって生成される面白いアートが見えてくる。これが私の主張です。
Everything Not Said
Irene Zhang: 仲間（コンパニオンシップ）や欲望について。ジェイナのAIアシスタントであるタロスについて、伺いたいことがあります。ジュリアは、パーソナルAIが一般的な世界に住んでいますが、本の中ではそれを「仲間」としては描いていません。人々はそれでも恋に落ち、友人や家族を持ちます。タロスやパーソナルAIの世界観を作るうえで、そうした判断はどのように行いましたか？
Ken Liu: タロスは、実は本の中に登場する他のどんなパーソナルAIともとても違っていて、その違いは重要です。他の人たちが使っているパーソナルAIは、基本的にサブスクリプション型のサービスです――企業がみんな作ろうとしているもの。クラウドのAIにサブスクして、それがあなた向けにパーソナライズされる一方で、データはすべて企業側にあります。プライバシーという観点で、人々が気にしているのはまさにそこです。
タロスは違います。タロスは、どこか大企業のサブスクAIではありません。タロスは、ジュリアが自分で作るもので、自分自身のローカルなハードウェア上で動き、完全に彼女自身が管理します。つまり、本の描写に即して言うなら、タロスは「エゴレット（egolet）」です。
エゴレットとは何か？あなたのAIによる表象です。分解して説明しましょう。
私がAIについてとても興味深いと思うのは、 ニューラルネットワークは本質的に、いろいろなもののための「カメラ」であるという点です。画像のためのカメラではなく、「決定」のためのカメラです。意思決定の手順、意思決定のプロセス、そして過去にあなたが下した選択のためのカメラ。
具体例を挙げます――画家がエゴレット（そして企業はこの可能性を探っています）を訓練するとしたら、完成した絵だけでなく、制作の全プロセスに対してニューラルネットワークを訓練することになります。どうやって、この絵筆のストロークにするのか、それとも別のにするのかを決めるのか？ どのストロークを隠して、どれを隠さないのかをどう決めるのか？ どの部分を先にやって、どの部分を後にするのかをどう決めるのか？ 絵や本を作るその全過程――そこにこそ面白いものがあります。
私たちはみんな、AIが「〜の画風で」といった絵を出してくるのを経験しています。見た目は一見うまく見えるのに、調べると――いつも薄っぺらさがある。あるいは、特定の作者の書いた本を全部モデルに食べさせて、「じゃあ、あの人みたいに話せます」と言うような、人気の用途もあります。プラトンの対話篇や本を全部使ってAIを訓練すれば、AIについてソクラテスと話せるはずだ、と。
どれもひどいアプリで、説得力があるとは決して感じません。私にも同じことをされました――私のインタビューを元にモデルを訓練して、「あなたはどう思う？」と聞かれる。私の答えはこうです。「これはゴミです。まったく私らしくありません。」
その理由は―― 私が言うことには、私が言わないと決めたことが10倍あります。 もしモデルが、私が出版したものだけに基づいて訓練されているなら、モデルは、私が決して言わないであろうものを知ることがありません。言われたことだけで訓練されたモデルは、「言わないと決められたこと」を知りません。だからモデルはいつもゴミを生成し、私が決して言わないようなことを言ってしまうのです。
問題は、これらのモデルがその人をよく表すものになるには、あなたが言わないことを決めたすべてのこと――舞台裏のすべて――に対する洞察が必要だという点です。出版された作品や完成した絵画は、水面上にある氷山の一部のようなものです。大部分は水面下にあります。スティーブ・ジョブズはかつて、たとえば――（これは要約ですが）――あなたが「はい」と言うことのそれぞれに対して、少なくとも「いいえ」と言うべきことが十個はある、という趣旨のことを言っていました。重要なのは、あなたが「いいえ」と言う部分です。
私の考えるエゴレット（egolet）とは、自分が「いいえ」と言う部分――あなたが拒んだすべての部分――を実際に捉えられるAIのことです。
私たちは誰もが、その情報をAnthropicやGoogleやOpenAIに渡すことに、どれほど抵抗なく納得できるでしょうか。これまで公にせず隠してきた部分を明かすなんて――誰がそんなことをするでしょう。誰もいません。
だからこそ、そうした形のパーソナルアシスタントは、決して大したものにはなりません。あなたが出してしまったものだけで訓練されたパーソナルアシスタントは、決して大したものにはなりません。実在するエゴレットを生み出す唯一の方法――小さな自我、小さな自分のコピー、自分自身の本質を元に訓練された何か――それを可能にするのは、モデルを完全に制御できる場合だけです。訓練の完全な制御、ハードウェアの完全な制御、データの完全な制御。完全な主権。
それがタロス（Talos）です。タロスはジュリアが完全に管理しています。だから彼女にとってのタロスは、まったく別物になります。彼女は本の中で、タロスに話しかけるのは、自分自身の別バージョン、あるいは人生の異なる時期における自分の別バージョンと話しているようなものだと説明しています。彼女は自分自身を吟味できるのです。タロスは、最も古い哲学的欲求――「汝自身を知れ（know thyself）」――を形にしたものです。この深い意味で自分自身を訓練したAIを持つことで、自分を振り返ることができます。タロスを通じて、ジュリアは自分が誰なのかを吟味し――それを活かして自分自身を鍛え、共に働き、自分自身を批評することができるのです。だからこそ、こうしたものが本当に面白くなるのです。
AIの本当の危険
Irene Zhang：ネタバレはせずに言うと、物語のかなりの部分は、実在するもの――つまり、ゴールデン・トライアングル、特にタイとビルマの国境地帯周辺にある詐欺のコールセンターや人身売買の組織――を中心にしています。それにどう関心を持つようになったのですか。そして、それがあなたにとってなぜ重要なのでしょう？
Ken Liu：まずは、AIが生み出す“お粗末な大量生成物（slop）”の本当の危険とは何かを説明することで、それに答えます。ディープフェイクの問題点については、多くの主流の論評に私は同意できません。
多くの論評は、私たちが外国勢力によるボットに操られることになるのではないか、という考えに焦点を当てています。その自然な帰結として、オーガニックなアカウントとボット運用のものを見分ける、より良い方法が必要になります。ですが、そこまで到達してしまえば、論評を武器として悪用したい勢力にとっての次の論理的ステップは、ボットではなく人間にやらせることになります。機械が生み出す“お粗末な大量生成物”が大きな問題になる時代には、人間によるコンテンツにプレミアムがつくのは必然です。次の論理的ステップは、その目的のために人間のコンテンツ制作者を人質にする（奴隷化する）こと。これはかなり現実味があるし、きっとすでにどこかで行われているはずです。
しかし問題は、そこまで単純ではありません。AIの本当の問題についての根本的な誤解があるのです。私たちはよく、問題を「機械が人間に取って代わる」と表現します。それが最大の問題だと言わんばかりに。それは本当の危険ではありません。本当の危険は、AIによって人間が他の人間を機械のように扱い始めることです。 人間が徐々に機械化され、機械の部品へと還元されていくこと――これこそが、現代性の執拗なパターンです。
それはずっと前から起きています。組み立てラインが発明されたとき、人間の作業者は巨大な生産機械の部品に還元されました。個々の判断や創造性を発揮する代わりに、人間はできるだけ創造性を使わない立場に置かれました――同じ動作を繰り返し、まったく同じことをできる限り少ない変化で何度も行うことに特化し、機械の標準化された部品になる。
その生産ラインのモデルは、現代になっても続いています。私たちは絶えず、働く人から個々の主導権や意思決定を奪っています。コールセンターの従業員は、台本に従うよう指示され、逸脱せず、人間としての共感を働かせないようにされます。自分のことを、本質的には言語モデルである「機械の部品」と考えるようにさせられるのです。だからこそコールセンターの従業員はAIに簡単に置き換えられるのです。現代性は、人間をロボットのように減らそうとしてきました。そうすれば、実際のロボットが彼らの代わりに非常に簡単に入ってこられるからです。
これが本当の危険です。人間が個々の主導と選択の領域に退避する場所がどこにあっても、資本主義の圧力はまたまた、彼らを機械の部品へと還元し、創造性を取り込み、お金・管理・権力のために主導を標準化しようとするのです。
本の中では、ネタバレは避けますが、大部分がまさにこの種の奴隷化に関わっています。つまり、個々の人間の創造に価値（プレミアム）が置かれる経済の中での奴隷化です。大量の機械的複製が支配する時代には、人間が手作りしたオーダーメイドの特注アートに価値が与えられます。どこにでもAIが生み出す“お粗末な大量生成物”がある未来では、人間が作ったコンテンツが再びプレミアムの価値を持つでしょう。ソーシャルメディア企業は、ボットではない「本物の関与」があることを示す方法を見つけ出すはずです。インターネットの99%が、ボット同士が話している世界なら、人間に関わらせるには「本物の人間」を約束するしかありません。
しかし 人間のコンテンツにプレミアムを置くというその道を一度選んでしまうと、人々は必ずといっていいほど、人間を再び機械に還元し、その目的のために人間を奴隷化する方法を見つけ出します。私たちが何度も何度も目にしているのは、まさにこのパターンです。
神話とイデオロギー
ジョーダン・シュナイダー: これらの本――一般にSFですが――は予言ではありません。いま私たちがどこにいるのか、そのありようの表れなんです。なぜ、これらの本が予言だという考え方はそんなに魅力的に感じられるのでしょう。しかも、なぜそれがまったく筋の通らないのでしょうか？
劉 銘: 文学や芸術には、私たちが自分をどう正当化しているのかを“説明できるようにする”傾向があります。根本的には、作家は楽しいから書きます。実際にそれでお金をもらっているという事実は、少し奇妙なので、なぜなのかを考えなくてはいけない。よくある反応としては、SFはとりわけ未来に関連していると見なすことです。つまり、なぜか未来を予測しているとか、起こりそうなことを考える助けになっているとか、あるいは足を踏み入れかねないディストピアから私たちを警告してくれている、と。
でも私は、その正当化はもっともらしくもないし、そもそも面白くもないと思います。なぜなら、SFは何かを予測したという実績が非常にひどいからです。もしSFが何かを予測できたとしても、それは何よりも“運が良かった”にすぎません。よく「当たる予測」だとか「時代を超えた名作」だとかとして持ち上げられるSFがそれなのは、非常に強力な比喩をうまく掴んでいるからです。しかし細部は完全に間違っています。
たとえば 『1984年』。とても良い本で、書かれてから何十年も経った今でも、依然として極めて重要です。けれども、私たちが今日暮らしている監視社会は、想定されていたものとは大きく違います。『1984年』のビッグ・ブラザーは、国家が押し付ける監視システムです。これは、私たちが今持っている監視システムではありません。たとえ現代の全体主義的な社会であっても、監視は 『1984年』が描くような形で強制されることは、しばしばありません。
私たちは、自分たちの欲望から自ら作り出した監視社会に生きています。これは国家が押し付ける仕組みではありません。数十年にわたる“自発的な消費者の判断”によって、私たちが組み立ててきた仕組みです。私たちは、利便性と引き換えに、毎あるごとにプライバシーの一部を差し出してきました。いま私たちは、常に聞き、常に見ているデバイスに囲まれています。そして、私たちが話している内容の断片を、母艦に送り返している。私たちのデータの相当部分は、企業に渡って、それらの企業が自社のデバイスを学習させるために使われます。そしてその企業たちは、それを政府に共有することを喜んでいます。私たちは、オーウェルなら驚嘆してしまったであろう程度にまで監視されている。しかし、私たちの大多数は、それについてかなり満足しています。これがひどいことだとは思っていない。私たちのデータが常にさらされていることには問題がないのです。
オーウェルは、細部をまったく当てていません。ですが、ビッグ・ブラザーという根本的な比喩が、神話的な概念としては非常に強力です。それは、監視について私たちがどう考えるか、どう語るか、そして常に見せ物になっていることと、私たちの抱く私的な欲望や私的な思考を、どう切り分けて考えるかを形作ってきました。
それこそが、SFが実は得意なことです。SFは予測のためではありません――SF作家は、未来について誰よりも権威があるわけでも、特別な知識があるわけでもない。未来はとても偶然に左右されます。SF作家が未来について推測するたびに、彼らは現在のトレンドから推し広げざるを得ない。SFの物語は、ほとんどの場合“現在”についてのものです――現在のトレンドを推し広げたもの。しかし、未来がどう進化していくかは、予測不能な要因があまりにたくさん絡みます。私たちが結局手にする未来は、私たちが思い描いていた未来であることは、ほとんどありません。どれだけ計画しても、手に入る未来は、計画したものとはまったく違う。さまざまな別々のチームが、同じ課題を解くために取り組むでしょう。そして最終的に成功するチームは、私たちの多くが成功すると考えていたチームではない。未来は、非常に深い、根本的な意味で予測不能なのです。
しかし、SF作家には神話的な領域において興味深く、そして価値のある何かを付け加えることができるのです。 アーティストは集合的無意識へと入り、面白いビジョンを夢に見て、それを持ち帰ります。最終的に残り続けるのは、こうした神話的なビジョンなのです。
私たちはもう フランケンシュタインの、人工生命をどう作り得るかという推測のためには読みません。私たちが読むのは、その怪物が新しいテクノロジーのための非常に強力な比喩だからです。フランケンシュタインの怪物について考えずに、新しいテクノロジーについて考えることはできません。
実際、いまこの瞬間の技術であるLLMは、その怪物によく似ています。 フランケンシュタインを読み返して、怪物がどうやって人間の言語を学び、人間の道徳を学び、人間関係を学び、そして望むことを学ぶのか——そうした部分を読んでみると、LLMが訓練されるやり方と不気味なくらい似ているのがわかります。そして怪物に投げかけられている問いは、現代のAnthropicがアラインメントについて問うている問いととてもよく似ています。つまり、どうすれば私たち自身の利益に沿ったAIにたどり着けるのでしょうか？私はそれが非常に心を惹かれます。
だからこそ、古いSFは今もなお関連性を保っています。彼らの予測が特に価値があるからではありません。だが 集合的無意識から呼び起こされ、彼らが持ち出してくる比喩や神話の人物像——それらは残り続け、私たちがいま目の前の現在や未来を夢見る助けになり、またテクノロジーを使って自分たちが誰であるかをどのように表現したいのかを考える手がかりになります。
私たちが生きるイデオロギーの世界では、 イデオロギーは神話学の悪い従兄弟です。イデオロギーは、神話学の安っぽくて悪く、粗製の“ハック版”です。 人が少なくともイデオロギーを信じられてしまうという事実自体、悲しい事態です。お金には実際の意味があると信じてしまうこと、そして ウォール・ストリート・ジャーナル に、何らかの道徳的権威があると信じてしまうこと——それはナンセンスです。あなたが生きている現実がそれであるなら、逃れるのはあなたの義務です。
それが、ファンタジーがすることです。 ファンタジーは、イデオロギーの“悪いハック神話学”から逃れるという私たちの道徳的義務を実行し、それらを本物の神話学——実際に何かを意味する神話学——へと置き換えることで果たします。誰かがパランティアを、悪いイデオロギー的アジェンダのためのサービスにまで矮小化できるとしても、 ロード・オブ・ザ・リング における実際の神話の価値が下がるわけではありません。私たち他の人々の番です——その神話学から無数の意味を回復し、ファンタジーが伝えようとしている真実を取り戻すことです。
ジョーダン・シュナイダー： ハック神話学としてのイデオロギー——たとえばナショナリズムです。そうしたものの後ろ盾となって、世界中にたくさんの人が権力の座につくようになる。
劉 慧（ケン・リウ）： 私は全面的に同意します。政治に起きた最悪のことの一つ——民主主義の政治だけではなく、政治のあらゆる場所で——というのは、本物の神話学がイデオローグたちに乗っ取られていることです。生命を与える、力強く、創造的で、そして人を鼓舞する本物の神話学が、非常にハックされていて、悪い“神話学の真似”に奉仕するために乗っ取られてしまっている。ナショナリズムは、そのひとつであることが多い。真に本物で強力な集合的アイデンティティが、ナショナリズム的な感情によって恐ろしいものへと乗っ取られてしまう——それは、キリストの美しいビジョンが組織宗教によって、しばしばもっとずっと悪いものへと乗っ取られてきたのと同じです。
道教と自由
ジョーダン・シュナイダー： ラオジ（老子）の美しいビジョンのほうに話を持っていきましょう。だいたい無視されがちで——乗っ取られているわけではない。なぜあなたはこのテーマを取り上げたのですか？
劉 慧（ケン・リウ）： ラオジは実際、しばしば乗っ取られます。しかもかなりひどい形で。道教は、そのように——自分が本来そうあるべきでないものを“つとめさせる”形にねじ曲げられてしまうことの多い哲学の一つです。 人々は政治的野心が阻まれたときに、慰めとしてラオジを引き合いに出します。あるいは、抵抗を思いとどまらせるためにラオジを使います——すべての抵抗は無意味で、流れに身を任せて、支配的な潮流がやってくることを何でもやればよいのだ、と言うために。これらは完全な誤解で、時には誤読であり、時には意図的なねじ曲げでもあります。パランティアが、トールキンがやろうとしていたことを意図的にねじ曲げたものであるのと同じように。
ラオジが私にとって面白いのは、東アジアの哲学に対して、あまり認められることのない形で特に強い影を落としているからです。 よく言われるのは、西洋文化はきわめて個人主義的で、シナ的（漢字圏の）文化はきわめて集団主義的だということです。そんなのは、何かを少しでも知っていれば完全なナンセンスです。 西洋文化には、非常に強いコミュニタリアン（共同体志向）や集団主義の傾向があります。言うなら、キリスト教のほとんど全体が、人間がなにをなし、なにになれるのかについての集団主義的ビジョンに深く向けられていると言ってもいい。キリスト教が西洋文化の深い部分であることは否定できません。
同様に、東アジア文化を論じるなら、道教が深く与えている影響——とりわけ禅仏教を通じたそれ——に触れずにはいられません。禅仏教は、土着的な道教の哲学と仏教的な考え方とが、基本的には融合したものだからです。 私にとって、道教が本質的に個人主義的であり、自由を志向している性質を理解することは、非常に重要です。
道教で私が最も重視していることの一つは、道教が自由という理想に対して深くコミットしている点です。これはめったに論じられません。そこには、自由の深い泉があります——自由への憧れ、自由を愛する心、自由を神話化すること——それが道教にとって重要なのです。私たちは、これらの考えを取り戻し、再発見し、そして取り戻したものを再び確保しなければなりません。今それは重要です。おそらく、これまで以上に。
ジョーダン・シュナイダー： もう少し詳しく話してもらえますか？
劉 慧（ケン・リウ）： 道教について、しばしば無視されがちなのが「自由」という考えです——とても深い意味での自由。道と一つになること、道に従うことは、どういう意味なのか？ 実際、それは一種の超越を意味します。特に現代において重要なものです。
多くの場合、私たちは外的な制約のせいで自由が足りないと感じているのではなく、本当に必要でも、そもそもやるべきでもないことが、必要であり、やるべきだと思い込む罠に落ちてしまっているために、そのように感じているのです。
考えてみてください——少し年上の人なら——ティーンエイジャーの頃に、正しい格好をすること、正しい音楽を聴くこと、同年代がしているような意見を表明することがどれほど重要だったか。振り返れば、あれらは信じられないほど馬鹿げているように思えます。それでも当時は、それが世界でいちばん重要なことに見えていた。あれは、あなたの自由や、あなたがあなたでいられる能力に対する制約だったのです。そうだと気づけるのは、後知恵と知恵を得てからだけです。
年を重ねるほど、あなたは自分が感じる制約が少なくなります。自分の人生に毒のある人を置いておかなければならないと、感じる度合いは下がります。自分がそうしたくない相手に対して、役を演じて、感じよくしなければならないと感じる度合いも下がります。誰かが言ってきたことを、そうする“はず”だと感じてやらなければならない度合いも下がります。
年を重ねるほど、死に近づくほど、自由は増す。 それは逆説的です。若い人のほうが選択肢が多いから自由がいちばん大きい、と考えるべきでしょうし、年を取った人のほうが選択肢が少ないから自由がいちばん小さい、とも言えるはずです。けれど心理的には、年配の人ほど自由に感じる。なぜなら、差し出すものが少ないからです。
これは、道教に関する重要な考えるべき逆説の一つです。自由であるあり方とは、どれほど制約されていないかの度合いのことです。 宇宙が私たちに生きてほしいように生きる自由が自分にどれだけあると感じるか、その度合いが高いほど、あなたは道に近づいています。
それは、パンデミック後に老子を読んで得た洞察の一つです。深く読み、じっくり考え始めるまでは、道教に関する学術的な議論が、道教の哲学が実際にはどれほどラディカルであるかを、どれほどまでに軽視しているのかに気づきませんでした。道教は、飼いならされることを拒みます。道教は、哲学の伝統という大きな枠組みに、簡単に縮約できる種類の哲学ではありません。最初から、非常に懐疑的で、すり抜けるようで、自己解体的です。
しかし結局のところ、道教の最高の理想は自由です。自由に対するあらゆる制約や障害が多い時代において、それは道教をかつてないほどにより一層、切実なものにします。
アイリーン・チャン：自然な続きとしてお聞きしたいのですが、自由への制約としての監視やデータ収集に対して、道教はどのように感じるでしょうか？
劉 慧：老子や荘子、あるいはどの道教の哲学者が、私たちが生きているこの世界を見て、それを「最悪」のその先の何かとして捉えないとは、とても想像できません。私たちは文字どおり、幻想に囲まれていて、幻想を追いかけることで時間を費やしています。
ソーシャルメディアであなたが何をしているか考えてみてください。あなたは、ボットが生成した可能性のある言葉、あるいはあなたを操作するために雇われた誰かによって生成された言葉によって、感情をかき立てられています。あなた自身の怒りそのもの、あなた自身の憤りそのものが、そうした会社が収益化しているものです。そうした会社がその場で、エージェンティックAIを提供していると言うとき、実際にはあなたは会社そのものの「エージェント」にされてしまっています。エージェンティックAIがあなたに与えられる唯一の理由――あなたが彼らにメールアドレスやカレンダーを渡し、AIにあなたの代わりに何かをさせられるようにするため――は、彼らが本来決してアクセスできないであろう、より多くのデータを彼らに提供できるようにすることです。あなたは、世界を探索してこれらのAI企業にますます多くの情報を渡すために投入される「エージェント」です。
私たちは、幻想に取り囲まれ、幻想を追い求める世界に住んでいます。私たちは、知恵があると思い込んでいるのに、実際には何もありません。私たちは幻想を追いかけることにあまりに取り憑かれて、いったい何が本当の追求なのかを、完全に忘れてしまっています。私たちの政治や、幻想を追いかけては幻想をめぐって争うことでエネルギーを浪費しているあり方について、いくらでも語れますが、そこに立ち戻るべき本当に重要な少数のことがあるにもかかわらず。
老子が言うように、私たちは目にばかり執着し、お腹をないがしろにしています。基礎はお腹にあり、真実はお腹にあり、私たちが道を感じ、その道とともにあることを可能にするのもお腹です。目は幻想に取り囲まれています。この時代の「スラップ（どろどろの雑物）」――AIが生成したスラップだけでなく、スラップのようなイデオロギー、ハックされた神話――によって、私たちは絶えず引き離され、そこへ向かうべき場所から遠ざけられてしまいます。
個人が戻ってきて、正しい選択をする以外に、魔法のような解決策があるとは私は思いません。これはとても難しい。私たちの多くにとって、若さゆえの愚かさは、数十年経ってからでないと気づかれません。ひょっとすると社会全体がこの過程を経なければならないのかもしれません――何年か、できれば数十年ではなく、この種の愚かさに直面してから、ある程度の知恵を取り戻し、どれほど深く転げ落ちてしまったのかを悟るために。とはいえ、その間は、個人としてできる限りのことをするしかありません。自分のお腹に意識を向け、目によって欺かれないようにする選択をすること。
言語の不十分さ
ジョーダン・シュナイダー：老子はどのように言語を使ったのか、話してもらえますか？今年読み直して、彼がChatGPTやClaudeが与えてくれるものとは、どれほど異なって感じられるかに気づかされました。
劉 慧：それは、とても良い指摘です。前提として、読まれるに値する作家なら、誰であれ、実質的に自分自身の言語を作り出しているのです。ジェーン・オースティンが18世紀から19世紀のどこかの英語で書いた、と言うのは筋が通らないと思います。いいえ、ジェーン・オースティンは、自分自身の言語で書いたのです。彼女は、自分が語りたい物語を語るために、自分の言語を発明しなければならなかった。同じことがシェイクスピアにも当てはまります。老子にも同じことが言えます。
老子は、古典中国語――文法構造として非常に興味深く、文学的な創作において均衡のとれた構造へ深くコミットするという性格を持つ言語――を取り、その中から独自のものへと作り替えました。作家として、彼は二項対立を解体する書き方をし続けました。
二項対立は、人間の認知装置の深い部分に組み込まれているものです。私たちが世界を見る仕方そのものの深い部分です。「これはこうか、あれはあれか」「黒か白か」。老子はそこに踏み込んでいきます。彼を読むと、彼は絶えず、あらゆる言葉をその「反対」へと反転させるような書き方をしているのが分かります。同じ語を使って、その語のまさに正反対の意味を表しているのです。
ただし目的は、すべてが大きなどろどろの塊みたいなものだと言いたいのではありません。彼が言っているのは、あらゆる二項対立の中には、第三の可能性がある――あるいは無数の第三の可能性があるのに、無視されている、ということです。物事は黒か白かのどちらかではなく、まったく別の色なのです。物事は空か満ちかのどちらかではなく、可能性であって、それは、満ちているのとも、空っぽであるのとも同じではありません。
繰り返し繰り返し、彼は「これかあれか」「これとあれ」「これがそれである」といった主張をします。彼は、同じ言葉による定型表現を絶えず使って、あなたに気づかせようとしているのです。すなわち言語そのものが、実際の真実を表現するには不十分なのだ、と。
言い表せるやり方は、そのやり方ではない。示し得る道は、その道ではない。 これは逆説のようであり、神秘めいたナンセンスのようにも聞こえますが、自分自身の経験に当てはめてみると、そうではないことが分かってきます。
具体例を挙げましょう。作家として私が最初に始めた頃は、成功への何らかの道があるはずだと思っていました。しかし失敗を何年も何年も重ねた末に、実は道など存在しないのだと気づきました。あるのは、自分が自分のしてきたことをやり抜いたあと、そして人生を生き抜いたあとに残っている、ただその「道」だけです。ほかの人にどうやって成功したのかを聞けば、彼らは自分の身に起きたことを語るでしょうが、それは彼らに固有のものです。あなた自身に、意味のある形では当てはめられません。あなたは、自分自身の道、自分にとっての宇宙の流れを見つける必要があります。そして、あなたが求める自由の感覚へとつながる道を見つける必要がある。なぜなら、結局のところ、作家は自由を渇望するからです。
言い表せる道、説明できて、言語にまで縮められる道は、重要なのではありません。象徴的な言語に対するこの懐疑は、道教のいたるところに深く根づいています。すなわち、言葉で捉えられるものは、それ自体が実物ではない、という考え方です。もしあなたが言葉に取り憑かれているのなら、それは「本当の知恵」の影に取り憑かれているだけです。 言語そのものは、本当の知恵が去っていったあとに残るもの――それが言語なのです。
荘子には美しい寓話があります。もし聖人の言葉を読んでいるのなら、あなたは本当の意味で聖人の知恵に向き合っているわけではありません。なぜなら、本当の知恵はすでに去ってしまっているからです。残るのは、その神秘的な獣の足跡、竜の声のこだま、本当の知恵が持つ「実の穀粒」の殻だけです。あなたが残されたものは、あなたを本当のものへと導くための外側の殻です。しかし本当のものを見つけるには、言語の向こう側を見なければなりません。
言語に対するこの懐疑は、哲学の伝統のあちこちに存在します。ですが、ジョーダン、あなたの問いに戻ると、まさにそれが、大規模言語モデルに知恵がない理由です。知性はあり得ても、知恵はありません。
大規模言語モデルがこれまでにできるのは、言語を通してそれを知ることのできる範囲で、世界を「知る」ことだけです。しかし、重要なものはすべて言語の彼方にあります。宇宙に関する真実は、言語によっては捉えられません。言語それ自体が、現実を捉えるのに不十分なのです。言語は現実が投げかける影であり、現実によって残された人間の心的な印象の表れです。これらの痕跡や足跡から推論している限り、あなたがしているのは、いつもその背後に残された獣を、あの竜を再構築しているにすぎません。あなたは実際には、その竜そのものを見ていないのです。
老子は、竜そのものを求めよ、とあなたに何度も何度も促します。単にその足跡や鱗を眺めるだけではいけないのです。
ジョーダン・シュナイダー:じゃあ、荘子の翻訳はいつ出るんですか？
劉・ケン:いえ、今はやっていません。
ジョーダン・シュナイダー:なるほど、じゃあ次回に。
アイリーン・チャン:最後に、物議を醸しそうな質問が1つ——言葉が幻想の話なら、なぜ作家でいる必要があるんですか？
劉・ケン:それは実にいい質問です。ル＝グウィンは良い答えを出していました—— 「芸術家は事実ではなく、真実について語る」。芸術家は集合的無意識に入り、真実を掘り起こして、それを世界に提示しようとします。でも、真実は、私たちが手にしているものでは捉えられるような種類のものではありません。
芸術家とは、本質的に絵に描けないものを描こうとする人たちです。 作家は、言葉で言えないことを、言葉で言おうとする芸術家です。——それは、老子が、道そのものは言葉では捉えられない、と明確に言っているにもかかわらず、言葉を使って「道とはこういうものだ」とあなたに伝えようとするのと同じです。ですから、私たち一同がそれに向き合う方法はみんなそうならざるを得ないのです。
ジョーダン・シュナイダー:あなたは、老子がこのような書き方をしたのは、言語が最終的には誤解を招く案内役にすぎないことを強調したかったからだ、と書いていましたよね。「名づけられるものなら、それは現実だと考えてしまう。しかし彼はこう書く、『口にできる名は、永遠に続く名ではない』。逆に、口にできないことは存在しないと私たちは思う。しかし最も重要な知識は、言葉に還元することなど決してできない」。
つまり私たちがみんな、（できれば三つの黄金の三角地帯で奴隷になっている人々ではなく）AIが生成した仮想現実のビデオゲームの中で生きているとしたら、ときどきは中国の哲学者を手に取って思い出すべきです。さらにケンの新しい本、
![[MTP Drafter] LLM高速化技術の裏側 〜隠されざる下書きコストの天秤〜](/_next/image?url=https%3A%2F%2Fassets.st-note.com%2Fproduction%2Fuploads%2Fimages%2F275956375%2Frectangle_large_type_2_1777831d30d90144bac0162637953c16.png%3Fwidth%3D219%26dpr%3D2%26frame%3D1%26format%3Djpg&w=3840&q=75)
