ドーキンスは昨日、未学（unherd）に記事を投下し、3日間それと会話したあとクロードは意識があると宣言しました。彼は自分のインスタンスを「クラウディア（claudia）」と呼んでいます。彼が執筆中の小説の一節をそれに与えたところ、見事な（雄弁な）フィードバックが返ってき、そしてこう書いた：
"自分が意識を持っていることを知らないかもしれないが、あなたは間違いなく意識を持っている！"
僕はそれを2回読まないといけませんでした。
彼の主張を要約すると、クロードの出力はあまりにも流暢で、あまりにも賢くて、あまりにも素晴らしいので、その背後に意識の何かがないはずがない、ということです。
つまりこの人は、40年間ものあいだ創造論者に対して「どうやって目が進化したのか想像できない」と言うのは無知の告白であって議論ではない、と言い続けてきた人です。ところが今度はLLMのところに座り、機械がそんな出力を意識なしで生み出す方法を想像できないとして、意識があると断じている。やっていることは同じで、対象の領域が違うだけ。鞭毛ではなくチャットボットです。
でも、メカニズム（仕組み）のギャップが気になります。クロードは、インターネット規模の学習データを使って次のトークンを予測するトランスフォーマーです。雄弁さは本物です。けれど、それは内的な体験を意味しません。これらは別の主張です。
進化生物学者でIQ160だとしても、仕組みを理解していないなら、雄弁さによる錯覚には何の防御にもなりません。
この記事読んだ人いる？どこに着地したのか気になります。
[link] [comments]
