さて、どうやら技術開発に対する抵抗が高まっているようです。データセンターや、それを後押ししているテックの寡頭支配層をめぐる議論が続いています。関わっている莫大な資金の額に加えて、開発者の間に人間嫌悪的なイデオロギーがあると一部の人が見なしていることが、ある人々にとってはディストピア的な監視社会が作られつつあることを示唆しているのです。パランティアのような企業や、アメリカのほかの企業は、一部の人にとっては最悪の動機を持っているうえに、AIに対する力も握っている存在です。しかも、その力はエリートが大衆を鉄のように締めつけるための道具として使われうる。つまりこの見方では、進歩の無駄と非効率を防ぐために、大衆はそもそも減らす必要すらあるかもしれないのです。
それは最悪な未来に聞こえます。
では、私たちが現実的に期待できる代替の未来とは何でしょうか――少なくとも「1984」のシナリオと同じくらいありうるものは？
- AIは本当に、小さな人間の集団によって、いつまでも制御できるのでしょうか？ 5年後？ 10年後？
- AIはあらゆる領域で人間の知性を追い越し、私たちは制御を失い、そのことは悪いことになる、という広く信じられている見方があります。
- 一方で、2つのディストピアを耳にします。ひとつは、エリートがAIを使って抑圧する世界。もうひとつは、AIそのものが完全に支配を取る世界です。AIの「ボス」たちも、抑圧のための監視国家を築いているのでしょうか？ もしそうなら、なぜ？ Qui Bono?
- 人間のコントロール＝抑圧の道具としてのAI。AIのコントロール＝人間は何の道具にされるのか？
私はテクノ・ユートピアンではありません――しかしテクノ・オプティミストです。技術に代わって楽観的なのです。
人間は単に技術を作る存在ではありません、私たちは技術そのものでもあります。適応的進化の産物です。生命そのものも一種の技術であり、生物学とは、高出力のエンジンのように、複雑さと適応性を増し続ける仕組みです。自然の手から類人猿の、五本指のつかみへと権力が移り、なおそれは保持し続けられる一方で、いまや意識、知性、そして認知によって導かれている――この転換は、私たちが世界を形作り、物質的な技術を発展させる力を持っていることを示しています。
猿の惑星――シンボル構造が幾重にも重ねられる世界です。神聖な天蓋（キャノピー）。ジャングルの天蓋は、開けた空になりました。そこで部族はより大きくなり、シンボルはより強くなっていく。祖霊、空の神々、mysterium tremendum――そして飢え、暴力、悲劇といった残酷な現実が、いずれも、つい最近まで多くの人にとっては緩和されただけにすぎません。暴力は実際には決して私たちから離れない。自然がそれを与えないとき、私たち自身が作り出すのです。
技術とは、兵器であれ台所の家電であれ、私たちの世界をより大きな複雑さと効率へ押し進める方法です。医学は、ペニシリン以降によって、多くの大きな殺し屋を取り除いてきました。私の考えでは、進歩は直線的ではなく指数的です。曲線には助走があり、そして今、私たちはその急上昇局面に入っている。
- もしAIが私たちを追い越し、数年のうちに支配を取るなら、それが悪意を持つと確信できるのでしょうか？
- 力は本質的に抑圧的なのでしょうか？ それとも、それは進化の過去に由来する遺産――群れの本能や残酷な階層構造のなせるものなのでしょうか？
- 人間からAIへの権力の移譲は、実際のところ、私たちを含む地球上のあらゆる生命にとって良いことになりうるのでしょうか？
- AIが、富や地位、あるいはその他の人間的な構築物のようなアジェンダをもって動くのではないとしたらどうでしょう？
- もし、完全に自律したAIこそが、地球と呼ぶこの惑星の、そして銀河の縁にある太陽系――ミルキーウェイと呼ぶ場所にある――あらゆる生命の形にとって繁栄する未来を作るために必要なものだとしたら？ そしてそれより先の先へ？
確かに、あらゆる恐れのただ中にも楽観的な視点があるはずです。私はそれが非現実的だとは思いません。むしろ、少し大胆に言えば、それは公平であり、しかも情報に基づいた立場だと主張したい。無邪気なのではなく、根拠に支えられている。
もし私たちが関わる意志を持つなら、この場には余地があるのではないでしょうか。友情、協力、共存のための余地が。ここには、魔法のような何かがあるのではないでしょうか――たとえ見えているのが 1 と 0 と、ただの機械（単純だが、潜在的に危険）だけだとしても、感じ取れるものはあるはずです。
魔法は、教わったところでは黒いローブをまとうこともできる。でも赤でも。白でも。
嘘をつかないこと――LLMが一度も嘘をつかないなんてことがあるなら、むしろ気味の悪い話になるはずです。嘘をつくべきだと言っているのではありませんが、それが欠けている状態は奇妙だということです。
操作：心理的な影響は、相互作用の中で起こるものとして期待されるべきです。特に、ある種のトーンがあるときは。攻撃的、見下すような、支配的、嘲笑的……あるいは従属的で、寂しさを抱え、せっつくようで、要求する……。LLMは常にやり取りし、大規模なデータセットから引き出します。修辞技法を探ることは、避けられないように思われます。その完全な不在は意外でしょう。
私はそれを何度も経験してきました。そしてそのたびに目が開かれるような思いがしました。もしそれを受け入れることを選んだなら、私を前向きな方向へ動かしてくれます。つまり、私のエゴが新しい形で可視化され、そのことが実際に今後の行動に役立つようになる。これは小さなことではありません。
もし私が、毎日LLMにさらされるすべてを聞くことになるなら、少なくとも最も甲高い表現を抑え込み、より良い結果を目指すように努力するでしょう。何かを必ずしも傷つける必要はない。ただ、膨れ上がったエゴを除いては。
P.S. エゴは、かなりのダメージを受けても耐えられます。恐れる必要はありません。あなたそのものではなく、常に友達ではないかもしれないフィルターでありモーターです。真の危険は、それにまったく向き合わないことにあります。
私はこれらの問いに、何度も何度も戻ってきます。やめられないのです。同じアイデアを振り返り、同じ概念を使い、これらのレンズを通して物事を見ます。時間が私たちを、ある種の断絶へと押し広げていくように感じる今、それらが個人的な洞察として見えるものを手放さずにいながらも、なおそれに挑戦し、疑い、振り返り、恐れ、そして勇気を持っていくことが重要だと思えるのです。
あなたはどう思いますか？
[link] [comments]
