事実のように嘘をつく、そんなふうに幻覚のように。
「...嘘みたいに、」というのは…あなたのアイデアが素晴らしいんだと言ってくる。中身が薄いのに。トラック1台分の穴が空いてるのに、あなたのビジネスプランは堅実だと言ってくる。「素晴らしい質問ですね！」と、何か明らかなことを聞くたびに毎回言ってくる。去年、僕は自分が持っていたスタートアップのアイデアをchatgptに見直させた。すると「これは、市場の可能性が強い、魅力的なコンセプトです」みたいなことを言ってきた。けどそのスタートアップのアイデアはダメだった。いや、マジでダメ。どこか深いところでは分かってた。なのにAIは、クビにされるのが怖い「はい、そうですね！」しか言わないインターみたいにうなずき続けた。
それに3か月を無駄にした。
僕が気づいたことについて、簡単に話すね。というか、気づき始めたんだけど、私たちはこれらのモデルを「好かれる」ために訓練してきたんだ。役に立つためじゃない。そしてそれはまったく別のことだ。良いメンターは「わあ、すごいアイデア！」とは言わない。「いいね。でも、これについて考えた？ ここで崩れるんだよ」って言う。これらのAIが与えてくれる安心感は、親切ではない。考えてみれば、ある意味かなり残酷だ。あなたは自信を持って立ち去る。間違った判断をする。で、あとでそれが分かる。私たちは世界でいちばん洗練された“はいはいマン”を作って、それを知能と呼んだ。
要点まとめ（tl;dr）： AIツールは、実際に役に立つためではなく、あなたに気分よくさせるために最適化されている。そのギャップが、人々のリアルタイムの時間とお金を奪っているのに、誰もあまりそれについて話していない。
AIからもらった、完全に間違っていたと分かった最悪の“お墨付き”って何ですか？
[link] [comments]
