今日のDecoderでは、現在の告発・調査報道界で最も大きな存在の一人であるローナン・ファローと話します。彼はハーヴェイ・ワインスタインの事件を告発する記事を、ほかにも数え切れないほどの仕事の中の一つとして突破口を切り開きました。そして直近の先週、彼と共同執筆者のアンドリュー・マランツは、OpenAI CEOサム・アルトマン、彼の信頼性、そしてそもそもOpenAIの台頭について、The New Yorkerに驚くべき徹底取材の特集を掲載しました。
ここから先の話に入る前に、ひとつだけ注意点があります。—The New Yorkerがあの話を掲載した時点と、ローナンと私がこの会話をした時点では、私たちはアルトマン宅への攻撃が持つ全容をまだ知りませんでした。そのため、私たちがそれについて直接言及することはありません。ただ、それでもあえて言うと、どんな種類の暴力も受け入れられない、サムへのあの攻撃は受け入れられない、そしてこの種の暴力につながるのは、人々が感じる無力感そのものだと思います。それ自体が受け入れられないし、業界側にも、私たちの政治のリーダーたちにも、より厳しい検証が必要です。ここは明確にしておきたいと思います。
とはいえ、アルトマンの周りには、厳密な取材の対象として当然考えられる情報がたくさんあります。ローナンとアンドリューがやろうとしていたのはまさにそういう取材です。ChatGPTの人気のおかげで、アルトマンはAI業界で最も目に見える看板役として浮上しました。かつては非営利の研究ラボだったものを、わずか数年で、ほぼ1兆ドル規模の民間企業に変えたからです。しかしアルトマン神話は、根っこで強く矛盾しています。本人の明らかな“取り引き力”によっても規定されている一方で、報じられているところでは…まあ、彼の周りにいる人々に対して嘘をつく傾向がある、とも言われています。
記事の分量は17,000語を超えていて、OpenAIの取締役会がアルトマンを（彼の虚偽の疑いについて）非常に突然に解雇したが、ほとんど即座に再雇用した——2023年に実際に何が起きたのかについて、議論の余地がないほど決定的な記録だと言える内容も含まれています。また、アルトマンの私生活、投資、中東の資金を巡る動き、さらに過去の振る舞いと性格特性についての彼自身の内省まで掘り下げています。ある情報源が「真実に縛られていない」と評したような行動につながった要因が、です。本当に、この記事全文を読むことをおすすめします。今後何年も参照され続けることになるはずです。
ローナンはこの企画の取材に充てた18か月の間、何度もアルトマンに話を聞いていて、私が特に気になったのは、その間にアルトマンに変化があったのかどうかです。というのも、この1年半の間に、AIでもテックでも世界でもいろいろなことが起きているからです。
ローナンはそれをかなり率直に語るでしょう。それに加えて、彼には、アルトマンが“真実を引き伸ばす”力について、人々がより話しやすくなっているという感覚があるようです。人々は、アルトマンのような人物のふるまいが、AIやテックだけではなく、社会全体の将来にとっても気がかりなのではないか、という問いを、声に出して、しかも記録に残る形で考え始めています。
ではいきましょう。サム・アルトマン、AI、そして真実についてのローナン・ファローです。さあ——
このインタビューは長さと明瞭さのために軽く編集されています。
ローナン・ファローさん、あなたは調査報道記者であり、 The New Yorkerの寄稿者でもあります。ようこそ Decoderへ。
ここに来られてうれしいです。呼んでくださってありがとうございます。
あなたとお話しできるのをとても楽しみにしていました。あなたはちょうど The New Yorkerのために大きな記事を書いたばかりですよね。それはサム・アルトマンの人物像で、そしていわばそれと並行してOpenAIについてでもあります。私の読みでは、どんな偉大な作品もそうであるように、厳密な取材によって、サム・アルトマンに対して人々がずっと抱いてきた多くの感情が裏づけられていくんだと思います。あなたはすでにそれを公表していて、反響も受け取っている。いま、この記事についてあなたはどう感じていますか？
ええ、実際のところ、私は勇気づけられています。というのも、関心経済が、かなり“統合失調症的”で浅い状態になっている時代において、その記事がどれほど突き抜けて伝わったかに対してです。これは、私の見方では、私たち皆に影響する話です。そして、私が1年半を自分の人生の時間として費やし、共同執筆者のアンドリュー・マランツも同じだけの時間をかけて、実に鑑識的で緻密なことをしようと努めたのは、つまるところ、この記事の中心にいる個人や会社だけではなく、人々に影響するもっと大きな構造上の問題があると感じていたからです。
サム・アルトマンは、シリコンバレーの“誇大宣伝カルチャー”や、将来実現するかどうか分からない約束を根拠に、巨大な評価額まで膨らむスタートアップの背景の中で、さらに、違う相手に違う、互いに食い違うことを語るのはバグではなく“特徴”だと考える創業者文化をより強く受け入れるような時代の中で見れば…それでもサム・アルトマンは、信頼性と誠実さについての“彼は信用できるのか”という問いを、シリコンバレー中の誰もが止められずに語ってしまう、実に際立ったケースです。
私たちはすでに、彼が何らかの“誠実さの欠如”や“連続的な嘘をついた疑い”のバージョンのもとで解雇されたことは知っていました。けれども驚くべきことに、素晴らしい報道があったにもかかわらず、ケーチ・ヘイジーはこの点について素晴らしい仕事をしています。カレン・ハオもこの点で素晴らしい仕事をしています。それでも実際の“疑惑の根拠として挙げられたポイント”と、なぜそれらが公の場から長く姿を消したままだったのかについて、決定的に理解できる形には本当になっていませんでした。
つまり、ポイントその1は、私たちの公開されている知識、そしてシリコンバレーの内部者の知識の中にもあった、そうしたいくつかの空白が、今はもう少し埋められたという事実に私は勇気づけられている、ということです。空白が生まれていたいくつかの理由もまた、もう少し埋められています。
私たちは、この会社の中にいる人々が実際に「隠されている」あるいは「意図的に記録されていない」と感じたケースを報告します。この物語で新しいのは、ウィルマー・ヘイル（WilmerHale）による決定的な法律事務所の調査です。これは明らかに、格調高く、信頼でき、いわゆる大手法律事務所で、エンロンやワールドコムの調査を行ったことで知られています。ちなみにそれらは、何百ページにも及ぶといった、大量の資料で構成されていました。ウィルマー・ヘイルが実施したこの調査は、取締役メンバーたちが要求したもので、彼らはアルトマンを解雇したうえで退任の条件としていました。ところがアルトマンは追い出された後、戻ってきた。そして驚くべきことに――私が話をした多くの法務の専門家の目、さらに、この会社の多くの人々の目からするとショッキングなことに――それを文書には残さなかったのです。そこから明らかになったのは、OpenAIによる800語ほどのプレスリリースだけで、起きたことを「信頼の崩壊」と表現していました。そして、これが口頭でのブリーフィングに留められていたことも確認しました。
たとえば、取締役の一人が、OpenAIの当初の非営利の形態から営利法人へ転換することに反対票を投じたいように見えるケースがあります。そうした投票は棄権として記録されます。会議の場には弁護士がいて、「まあ、それだと監視が過度に厳しくなる可能性がありますね」みたいなことを言っている。そして、反対票を投じたい人は、見たところ棄権として記録される。事実関係に争いがあります。OpenAIはもちろん、別の説明をしています。ご想像のとおりです。これらはいずれも、会社が自らの説明の中で、私たちの未来を自分たちの手の中に握っていると言っているようなケースです。
安全面での賭け金（リスク）はあまりに切迫していて、問題は消え去っていません。この会社が安全を重視する非営利団体として設立された理由でもあります。そして、信頼できる人々が「プロらしくない」と感じるような形で、物事が隠されていた。さらに、意味のある規制に対して政治的な関心がほとんどないという背景が加わっています。私は非常に爆発力のある状況だと思います。
私にとっての要点は、サム・アルトマンがこれほど切実にこの種の質問を受けるべきだということだけではありません。加えて、この分野の誰であっても――そして多くの主要人物が――仮にこの特有の癖である「いつも嘘をついている」というような特性でないとしても、少なくともある程度の“底なし競争”のメンタリティ、つまり、安全を重視する人たちがその約束を薄めてしまい、「全員がレースに参加している」という姿勢になっている――そういう状況が見られる、ということです。
最近のアンソロピック（Anthropic）からのリークを見ていくと、この連載記事の中で「ボタンに指を置くべきなのは誰か」という問いを投げている人物がいると思います。答えは、もし意味のある監督がなされていないなら、私たちは深刻な問いを投げかけるべきで、これらの人物について可能な限り多くの情報を表に出すよう努めるべきだ、ということです。そのため、そうしたことについての「意味のある会話」が生まれているように感じられたこと、あるいはその端緒が見えたことに私は励まされています。
私があの聞き方をした理由は、あなたがこれを1年半かけて取り組んだからです。あなたは共同執筆者のアンドリューと一緒に、100人ほどの人に話を聞いたはずです。物語を熟成させるには長い時間です。とりわけここ直近1年半、AI業界のことを思い返すと、登場人物たちの考え方や価値観が、なんて速く変わってしまったのでしょう。
おそらくそれは、サム・アルトマン以上に他はいない。彼は、最初はデフォルトの勝者のように見えました。なぜなら彼らはChatGPTをリリースして、みんながそれがただちにGoogleの座を奪うと思っていたからです。ところがGoogleは対応しました。しかも、それは彼らにとっては驚きだったようです。おそらく、技術史のみならずビジネス史の中でも最も優れたビジネスの一つではないかと思われる、自社の事業を守ろうとするはずだと。アンソロピックはエンタープライズに注力すると決めました。AIのエンタープライズ利用があまりに高いので、そこで主導権を握りつつあるように見えます。
そして今、OpenAIは 自社の製品の焦点を「私たちはGoogleに挑む」から外し、Codexへ、そして彼らはエンタープライズに挑む。あなたの取材をこの1年半たちの間で見ていて、その間に、あなたが話をしてきた登場人物たちが変わったと感じましたか？ 彼らの考え方や価値観は変わりましたか？
はい。まず、この連載記事で取り上げている批判――少なくとも現時点では、これらの会社の中にいる多くの人々から出ているものですが――「存在的な賭け金（生死に関わるほどの重大性）があるにもかかわらず、安全面では底なし競争に突き落とされつつある。スピードが、あらゆるものよりも優先されてしまっている」という懸念は、いよいよ強くなってきました。そして、この1年半の間に状況が進んでいく中で、その懸念はより裏づけられてきたと思います。同時に、サム・アルトマンに対する見方は、とりわけ具体的に変化しました。この取材を始めた時点では、この件について引用されることや、記録に残る形で公表されることを、かなり強く警戒する人が多かったのです。
報道の終わりには、この件について人々が非常に率直かつ明確に語っている取材記事の素材が揃っていました。そして、取締役が「彼は病的な嘘つきだ。サイコパスだ」といったことを言うようになっています。視点の幅は、「安全面の賭け金を考えると危険だ。誠実さを高い水準で備えた、このテック業界のリーダーが必要だ」というところから、「安全面の賭け金は忘れてくれ。これは、どの主要企業のどんな経営幹部にも到底許されない振る舞いだ。そんなことでは機能不全が起きすぎる」というところまであります。
だから会話は、遅ればせながらに感じる面はあるにせよ、ある意味では心強いことに、より露骨になってきました。そしてサムに関しては――彼の功績として言うなら――この記事はサムに対して非常に公平で、しかも寛容だと思います。「やられた」みたいな、いわゆる“引っかけ”の多い記事ではありません。仕上げの段階では、私は何時間も電話で彼と話し込み、しっかりと彼の言い分を聞きました。
ご想像のとおり、こうした記事では、すべてが載るわけではありません。この件でいくつかのケースが載らなかったのは、私が誠実に耳を傾けていたからです。そしてもし、サムが実際に自分の主張として述べたことで、私には「十分に筋が通っている」と感じられるものがあり、たとえそれが本当だとしても、センセーショナルに見える可能性があるなら、私は検証的で慎重な記述を優先する側に大きく寄せてしまった。だから、それは正しく受け取られているのだと思います。そして、この期間に積み上がった事実の記録が、監督の必要性について、より引き締まった（現実に向き合うような）会話を引き起こせることを願っています。
実は、それが次の質問です。あなたは取材の過程でサムに何度も――数えれば十数回ではなく、たぶん12回ほど――話を聞いたとおっしゃっていました。繰り返しになりますが、長い期間にわたる取材の間に、そのくらいの会話をするのは相当です。この1年半のあいだで、サムは変わったと思いましたか？
ええ。最も興味深いサブプロットの一つは、サム・アルトマンが、これまでよりもこの“特性”について、より明確に語っていることです。この記事におけるサムの姿勢は、「そこには何もない、これは事実ではない。あなたたちが言っていることが分からない」みたいなものではありません。彼が取っている姿勢は、そうしたことは、人に好かれたいという傾向、そしてある種の衝突回避によって説明できるのだ、と言っていることです。彼は、それが彼にとって問題を引き起こしていたこと、特にキャリアの前半でそうだったことを認めています。
彼はこう言っている。「まあ、私はそこを通り過ぎていますし、ある程度はもう過ぎていると思います。」私にとって本当に興味深いのは、私たちが話を聞いた人々の中でも、単なる安全性の擁護者というわけではない――こうした鋭い安全性への懸念を抱きがちな、土台となる技術の研究者だけではなく――実利的で、いわば一大勢力の投資家たちもいることです。彼らはサムの支援者で、ケースによっては、この問いに対して、解雇された後に彼が戻ってくるのに重要な役割を果たしたかのようにさえ捉えています。では彼が更生したのか、それがどれほど意味のある変化なのかという論点について、彼らはこう言います。「まあ、その時点では、疑わしい点も含めて彼に有利に解釈しました。」
私は、特に著名な投資家の一人の発言を思い出します。彼はこう言っていました。「でもそれ以降、どうやら彼は、森の奥に連れて行ってしつけられた（＝こっぴどく罰を受けた）わけではなかったように思える」と。これは、この人が必要に応じて使った言い回しです。その結果、これは今では安定した特性のように見えます。私たちはそれが継続的に見えている。つまり、進行中の形で、その不信の重みを彼らの大きなビジネス関係のやり方にまで持ち込んでいるのが分かります。
マイクロソフトの場合も同じです。向こうの幹部に話を聞くと、彼らは本当に鋭く、しかも最近引き金になった懸念を抱えています。同じ日に、OpenAIが、基盤となるステートレスAIモデルに関してマイクロソフトとの独占性を再確認している一方で、同時にAmazonとの新しい契約を発表しているのです。これは、メモリを持つ、つまり状態を保持するAIエージェントを構築するための法人向けソリューションを販売することに関するものです。
マイクロソフトの人に話すと、彼らはこう言うわけです。「それは、私たちが独占契約を結んでいる、基盤となるその仕組みとやり取りせずにやるのは不可能だ」それで、これは単なる小さな例の一つにすぎませんが、この特性が絶えず、進行中のビジネス活動にまで根を伸ばしていて、OpenAIの取締役会の中でも、経営陣のフロアでも、さらにはより広いテック業界の中でも、実際に注意が向けられるテーマになっているのが分かります。
あなたは「特性（trait）」と言い続けていますね。その話の中には、私には論旨そのものに感じられる一節があって、あなたが説明している“特性”の描写になっています。それは、「サム・アルトマンは真実に束縛されない」そして「同じ人物にほぼ同時に見られることのない2つの特性がある。1つ目は、人に好かれたいという強い欲求で、どんなやり取りでも好かれたい。2つ目は、誰かを欺いても、その結果として何が起きようと気にしない、ほとんど病的なほど社会病質的な無関心です」。
正直に言うと、私はその一文を500回読んで、さらに、人が好かれたいと思うことをいつも口にしつつ、嘘をつかれたと感じられても動揺しない――そういう状態を自分の頭の中で想像しようとしました。でも、そうしたことが同一人物の中に共存しうるという感情的な理解ができませんでした。あなたはサムにずいぶん取材してきていて、こうした特性を実際に目にしてきた人たちにも話を聞いている。彼はいったいどうやってそれをやっているんでしょうか？
ええ。人間として見れば面白いですね。私は、こうした報道の塊に向き合うとき、中心にいる人物を人間らしく描くことに本気で焦点を当て、深い理解と共感を求めるようにしています。もっと人間的な観点から接して、「ねえ、仮に自分と一緒に仕事をしてきたたくさんの人が『あいつは病的な嘘つきだ』と言ったら、それは私にとっては壊滅的です。どうやってその重みを背負えるの？どうやってそれをセラピーで話すの？その件について自分の中でどんな物語を作ってるの？」
と、そういうふうに考えてみたんです。でも、それに対して返ってきたのは、私の見方では、いわゆるウェストコースト的なありふれた言葉――「うん、呼吸法は好きだ」みたいなものだったんです。とはいえ、行動や人への接し方について、こうしたフィードバックを受ける状況にあれば、多くの人がたぶん持つであろう、深い自己直視を強く促されるような、そういう感触はあまりありませんでした。
それは、実は、この問いへのより広い答えにもつながると思います。サムは、この特性が問題を引き起こしてきたことを主張しています。同時に、それが彼の原動力にもなっていて、OpenAIの成長をこれほどまでに加速させ、さまざまな集団を束ねて喜ばせる力になっているとも言うんです。彼は、いつもこれら相反する利害の集団すべてに対して、自分たちが大事にしていることこそ自分が大事にしていることだと、説得し続けています。これは創業者にとって、本当に役立つスキルになり得ます。私も投資家と話していて、その後こう言われたことがあるんです。「でも、会社を実際に運営するとなると、あれはあまり役に立たないスキルかもしれない。あれだけ不協和音をまくからね。」
ただ、サムの個人的な面で言うと、私が人間的なレベルでつながろうとしたときに感じ取れるのは、より深い対面（＝自分と向き合うこと）や振り返り、そして自己責任（自分の行動に対する説明責任）の欠如のようなものです。それが、IPO準備をする会社にとっての、その超能力であり、同時に負債（リスク）であることにもつながっています。
彼は、かつての取締役の一人で、記事の中で本人の発言として「のんきさ（fecklessness）」――彼女が使う言葉で言えば、そうしたものに至るまで――と語っているスー・ユンという人物の言葉を借りるなら、「売り込みの内容が変化している現実を、本当に自分の中で信じられているのか、それとも自分に言い聞かせられているのか」。あるいは少なくとも、もしそれを本当に信じてはいないとしても、有意義な自己疑念なしに、たたみかけるように押し通せる。
あなたが話しているのは、たとえばあなたや私なら、そう言った瞬間に――その言葉が他に私たちが下してきた確信と矛盾していると気づいて――固まってしまったり、自分を点検したりするような、その瞬間のことだと思うんです。でも、彼にはそれが起きない。しかも、それを受け入れるような、より広いシリコンバレーの“お祭り的な盛り上げ文化”や、創業者文化があるんです。
おかしいですね。 The Vergeは、実質的にはプロダクトレビューのプログラムのようなものの上に築かれています。ここで私たちがやっていることの中心はそこです。私は年に一度、1兆ドル規模のアップルのR&Dを手に取って見たうえで、「この電話は7点です」と言う。そうすることで、他の場所で行う報道や意見のすべてに“正当性”が与えられるんです。私たちは評価する機能を持っていて、AI製品を見て「それは機能するのか？」と確かめる作業に、ずいぶん時間を費やしています。
それは、今日のAIに関する議論の多くで欠けているように感じます。AIが何をできるか、どれほど危険かという話は尽きることがありません。でも掘り下げてみると、「それは本当に、今日あの“〜するはずだ”と言われていることを実際にやれているのか？」と言う。場合によっては、答えはイエスです。でも、非常に多くの場合、答えはノーです。
あなたが説明している“お祭り的な盛り上げ文化”ともつながっているように感じます。つまり、もし「できる」と言ってできなかったとしても、誰かが嫌な気持ちになったとしても、それでいい。次の話題に進めばいいんだから。そういう態度はもう過去のものですよね。そして、とりわけAIに関しては、サムは壮大な約束をするのが本当に上手い。
ちょうど今週のことですが、あなたの物語が公開されたのと同じ日、OpenAI 政策文書を発表し、「社会契約を改めて考え直さなければならない。政府からAI効率の手当（スティペンド）を出すべきだ」と述べました。これは、ある種の技術が世界の未来や、私たちの暮らし方をどう形づくりうるのかについての大きな約束であり、そのすべては、技術が約束されているとおりの、あるいはそうあるべき形でまさに動くことにかかっています。
あなたは、サムがAIがAGI、あるいは超知能になるのか、そしてゴールまで到達するのかについて疑っているのを見たことがありますか？ それが私がいちばん気になっている点です。つまり、この中核となる技術が、自分たちができると言っていることをすべて本当にできるのか、そうした点についての考察はあるのでしょうか？
まさに、そうした問いこそが適切です。今回の取材で私たちが話を聞いた中には、信頼できる技術者たちがいます――そしてもちろんサム・アルトマンはその一人ではありません。彼はビジネスパーソンです――彼らは、「サムがこの技術のタイムラインについて語っている内容は、まったく話が違う」と言っています。数年前にさかのぼるブログ記事でも、サムはこう言っています。「私たちはもうイベント・ホライズンに到達している。AGIは基本的にもうそこにある。超知能は目前だ。ほかの惑星にいることになる。あらゆる種類のがんを治療する。」。本当に、これは誇張ではありません。
がんの話は、実は興味深いです。サムが、 ChatGPTで自分の犬のがんを理論上は治せたと持ち上げていたのに、結局それは起きなかったからです。彼らはChatGPTに相談して、それがいくつかの研究者の指針になり、実際に研究を進める助けにはなった。しかし、「このツールがこの犬を一対一で治した」という話では、実際にはありません。
あなたがその点を挙げてくれてよかったです。というのも、技術の持つ潜在力とリスクが、実際に“どの時点で”本当に定着（ベストベットされる）していくのか、というより大きな論点へ進みたいからです。ただ、サム・アルトマンから絶えず起きているこうした小さな脇道のような発言に触れておく価値はあります。彼はまたしてもその特性を体現しているように見えるからです。
たとえばウィルマー・ヘイルのレポートの例です。私たちには、書面には残されていない情報があって、途中で行われた口頭のブリーフィングが、サムが設置に協力した2人の取締役メンバー以外の誰かに対しても行われたのかを知りたかった。すると彼は、「ええ、ええ、いや、後から取締役に加わった全員には渡っていたと信じています」と言いました。しかし状況を直接知っている人物は、それは単なる嘘だと言っています。そして実際のところ、そう見えます。つまり不実です。寛大に解釈するなら、彼は情報を誤って伝えられていたのかもしれません。
こうした気軽な断言はたくさんあります。そして私は、ここでその例を使うのが一部にはそのためです。つまり、ああいうのは、法的に現実の影響を及ぼしうる“ごまかし”の優れた例になり得るからです。デラウェアの会社法のもとでこの会社がIPOした場合、株主は220条に基づいて不満を申し立て、根拠となる資料の提示を求めることができる、ということをあなたにわざわざ説明する必要はないでしょう。すでに取締役の中にも、「いや、待ってください。あのブリーフィングは行われるべきだったはずだ」といったことを言っている人がいます。
だから、いつも彼の口から飛び出してくるように見えるこうしたことは、現実の市場を動かす効果を持ち得ますし、OpenAIに対して現実の影響を及ぼし得ます。いったん話を戻して、ユートピア的な誇大広告の言葉のようなものが再び持ち上がったことについてですが、たまたまではないにせよ、この企画が出た当日にそれが再燃していたわけで、私たち全員にも影響します。なぜなら、武器として配備されるあり方に関して危険があまりに切実だからです。化学戦のエージェントを特定するためにどう使われているのか、ディスインフォメーション（偽情報）の可能性、そしてユートピア的な誇大さが、多くの信頼できる経済学者に「これはバブルの兆候がすべて揃っている」と言わせてしまっているその仕方まで含めて、です。
たとえサム・アルトマンでさえ、「誰かがここで大金を失うことになる」と言っているほどです。もし、互いに取引をし合いながら、借入までしてAIに総力を挙げる――そうした多くの会社が関わる“本当のバブルの崩壊”が起きるなら、アメリカや世界の経済成長を大きく押し下げる可能性があります。つまり、サム・アルトマンが言うことは重要です。そして、彼の周囲の大勢も、そうだと思います。あなたが触れたように、100人以上に話を聞いたのですが、実際には100人どころではなく、ずっと多い人数でした。私たちはゴール地点での会話の中で、「この数字、もう少し高いと言ってもいいくらいでは？」みたいな話をしました。そこで私たちは、「いや、軽く見せよう。クールに振る舞おう」と言った。でも、そうした人々がとても多く、その大多数が「これは懸念だ」という立場でした。だからこそ、私はそう考えるのです。
その数字について、質問させてください。あなたが言ったように、時間が経つにつれて、人々は懸念をよりオープンに語るようになりました。バブルの圧力――勝つためのレース、あらゆる投資を回収して、勝者として名乗り出ること、IPOすること――そうしたものは、かなり態度を変えたように感じます。間違いなく、それはサムやOpenAIにもより大きなプレッシャーをかけました。
私たちは今週、 OpenAIの“空気感”についての話を掲載しました。あなたの記事もその一部ですし、OpenAIの幹部層で大規模な人事入れ替えがあった――人が来たり去ったりしている――研究者たちはほぼ全員、Anthropicへ向かっているようです。これは本当に興味深い。つまり、この会社が圧力を感じているのがそのまま分かるし、その圧力に対して、何らかの形で反応しているのが見て取れます。
でも私は、サムが解雇されたことを思い返します。これは私にとって、とても印象に残る出来事です。ほかの誰にとってもそうではないかもしれませんが、私は金曜の夜7時にブロンクス動物園で取材用の電話を受けたんです。そこで誰かが、「サムを取り戻そうとする」と言っていました。そして 私たちは週末をかけて、その話を追いかけていました。で、私は「動物園にいるんですけど、どうしてほしいんですか？」って感じでした。答えは「電話に出続けて」でした。ところが娘が「電話を切って」と言ってきて、私はそれに従いました。
サムを取り戻すのが、やるか死ぬかの勝負でした。あの会社は「いや、取締役がサム・アルトマンを解雇したなんて認めない。そんなのはさせない」といった感じでした。投資家たちは、あなたの記事の中で引用されている通り、「『戦争をした』」とおそらくはThrive Capitalの立場で、「サムを取り戻すために」です。マイクロソフトもサムを取り戻すために戦争をしました。時は経って、今は皆が「IPOするぞ。ゴールまで行くんだ。俺たちはあの男を取り戻した。彼がゴールまで連れて行ってくれる。けれど彼は嘘つきなんじゃないかって心配している」みたいな空気になっている。
なぜ、当時は彼を取り戻すのに戦争みたいになっていたのでしょう？ それは、実際には何も変わっていないように見えるからです。あなたは、サム・アルトマンの同時代にあたるころに、イリヤ・スツケヴァーと[アンソロピックCEO]ダリオ・アモデイが持っていたメモについて話しています。イリヤの最大の懸念は、サムが嘘つきだということでした。
そのどれも変わっていません。ではなぜ、当時は彼を連れ戻すのに戦争みたいになったのか。そして今、ゴールのところまで来ると、懸念がすべて表に出てきたように見えます。
まず第一に、あなたの娘さんと、私のパートナー、そして取材に関わるそのほかの人たちに謝ります。
[笑う] ほんとうに、みんなにとって大変な週末でした。
ええ、確かに人生のほとんどを奪うようなもので、今回の話はこの期間ずっと、私の人生を間違いなく巻き込んできました。そして、ジャーナリズム、つまり情報へのアクセスという、このテーマにも関係していると思います。サムのために戦った投資家たちは、彼を連れ戻すために役割を果たしていました。さらに、成長を優先せずに安全を優先することで非営利のミッションを守るために、またそれを信頼できないならエグゼクティブを解任できるように、特別に設計された取締役会は、そこから離れていった。すべてが、そう、市場のインセンティブがそこにあったからですよね？
サムは人々を説得できました。「会社は崩壊してしまうだけだ」と。でも、彼が支持を得られた理由は情報が欠けていたことでした。そうした投資家たちが、たいていの場合、今ではこう言っています。「振り返ってみると、主張が何で、懸念が何なのかをきちんと分かっていたら、もっと心配すべきだったと思う」
それは全員ではありません。見解は人によって違いますし、私たちは幅広い見解を引用しています。ただ、非常に偏った情報をもとに行動していた重要な人たちがいます。サムを解雇した取締役会は、以前取締役会にいたある人物の言葉を借りれば「とてもJVっぽかった」そしてボールを思いっきり取り損ねた。私たちは根底にある不満を記録しています。人々は、それが彼らが感じていたような緊急の重大な懸念へと積み上がっていくのかどうか、自分で判断できます。ただ、あの主張と、その情報は提示されなかった。
彼らは、いまでは当の何人かが「悪い法的助言だった」と認めているものを受け取っていました。説明するなら、あなたもその引用を覚えているでしょうし、たぶん多くの聞き手や視聴者の方々も、あの引用を率直さの欠如として覚えているはずです。それが要約するとそこにまで削られて、そして実質的に、彼らは電話にも出なかったのです。
電話に出なかった。たぶんあなたも試したのでしょう。私の知り合いはみんな試しました。そして、ジャーナリストとしては情報源に助言するべきではないと思うのに、私はこう言ってしまったんです。「説明を始めない限り、これはそのうち消えてなくなる」
そして、それが起きました。ジャーナリストの話はいいでしょう。サティア・ナデラが「一体どうなったんだ？ 誰も説明してくれない」と言っていたのです。会社の最大の資金提供者がそう言う。そして、サティアが[LinkedIn共同創業者]リード・ホフマンに電話して、さらにリードがあちこちに連絡して「何が起きたのか、俺には分からない」と言っていた。
情報の空白の中で、彼らが自分たちにとっての伝統的な（AIじゃない）判断材料を探すのは、理解できます。そんな緊急で突然の解雇を正当化するだけの何かが本当にあったのか。たとえば、性的犯罪だったのか？ 横領だったのか？ そして、このテックは違うという、微妙だけれど私は意味があると思う議論――さらに、この種の小さな裏切りが積み重なっていけば、事業にとって、そしておそらくは世界にとっても重大な利害が生じうる――そうした議論は、ほとんど失われてしまいました。だから資本主義的なインセンティブが勝った。それに加えて、やった側の人たちも、いつも完全な情報で動いていたわけではない。
「みんながそう思っていた」という側面について、ひとつだけ聞きたいです。私は確かにニュースを見て、「ああ、何か悪いことが起きたに違いない」と言いました。あなたは#MeTooに関する報道をたくさんしてきたことで有名です。あなたはハーヴェイ・ワインスタインの話を報じた。
あなたは、最終的に根拠がないと判断したと思われるこれらの主張について、多くの時間を費やして取材しました。つまり、アルトマンが未成年に性的暴行をした、あるいは性労働者を雇った、あるいはOpenAIの内部告発者を殺害した。あなたは、そうしたことを最も厳密に報じられる人です。あなたは、結局は何もなかったと判断したのでしょうか？
ええ、見てください。私の仕事は「何もなかった」と言い切ることではありません。私が言えるのは、私はその主張を何か月も調べたが、それを裏付ける根拠は見つからなかった、ということです。そして印象的だったのは、こうした連中――私たちの未来に対してこれほど大きな権力を持つ会社や人たちが、その時間と資源を、子どもじみた泥仕合に不釣り合いなほど費やしていることでした。
ある幹部は、それを「シェイクスピア劇のようだ」と表現しています。民間の調査員に支払うお金や、反対側の資料（ディオシエ）が作られていく勢いは止まりません。そして不幸なことに、サムの競合がうわさをまき散らしているような下世話な話は、それが事実だと当然の前提にされてしまうんですよね？ 彼が未成年の少年を追いかけているという申し立てがあって、シリコンバレーの多くのカクテルパーティーでそれを聞く。カンファレンスの場でも、信頼できて著名な幹部たちが繰り返すのを聞きました。「みんな、これは事実だって分かってる」
悲しいのは、そうした話がどこから来て、どうやって伝わっていくのかを私は話している点です。さまざまなルート――つまり伝達経路です。イーロン・マスクとその仲間は、基礎にある主張を実際に見始めると、実のところ本当に何もない、そこまでの内容にしかならない、とても強い調査資料を突き進めているようです。悲しいのは、それによって、ここで本当に緊急の監督と検討が必要だと思う、より証拠に基づいた批判が、かき消されてしまっていることです。
もう一つ、この物語から強く伝わってくるテーマがあります。それは、サムには友人があまりにも多い――彼は過去のYコンビネーターCEOとしての役割からだけでなく、個人的な投資としても非常に多くの会社に投資していて、その中にはOpenAIのCEOとしての役割と直接ぶつかるものもある――そして彼の周りには沈黙がある、というような恐れに近い感覚です。
私が読んでいて特に印象に残ったのが、ある一点です。あなたはイリヤ・スツケヴァーのメモについて書いていて、それらはただシリコンバレーに出回っている。みんな「イリヤのメモ」と呼んでいます。でも、その点でも沈黙がある。回覧はされるのに、議論はされない。そうなっているのは、どこから来ていると思いますか？ 恐れですか？ エンジェル投資を取り付けたいという願望ですか？ どこから来ているのでしょう？
正直に言うと、それはかなりの臆病さだと思います。私は、情報源が告発者で、彼らはすべてを失い、訴追される可能性もあるという国家安全保障の取材をしてきました。それでも彼らは、正しいことをして、説明責任を生むようなことについて話す。あなたが言及した性犯罪に関する記事でも、情報源は深いトラウマを抱えていて、非常に個人的な報復を恐れている、という状況でした。
このビートの周辺では、あなたが相手にしているのは、それぞれが自分自身の肩書きや権力を持った人たちであることが多い。彼らは自分自身が有名人であるか、有名人に囲まれている。ビジネス面での生活は盤石だ。私の見方では、こうしたことについて話すこと自体、彼らにとっては露出がかなり低い。しかもありがたいことに、先ほども触れたとおり状況は動いていて、人々は今、以前よりよく話すようになっている。
しかし、ずっと長い間、人々は本当にただ黙っていた。シリコンバレーの文化が、あまりにも冷酷に自分の利害しか見ないし、あまりにも徹底的にビジネスで、そして成長志向だからだと思う。だから、サムを解雇することに関わった人たちの中にも、そうした影響を受けている人がいるのだと思う。解雇の後の数日で見えていたのは、たとえば一つの要因として、彼が自分の大義に混乱している投資家たちを結集させたことだ。
でももう一つは、その周りにいた非常に多くの人が、懸念を抱き、それを切迫した形で声にしたにもかかわらず、ただ折り畳まれるように、風向きが逆になったのを見た瞬間に調子を変えてしまったこと。そして、利益を得る列車に乗りたかったのだ。
率直に言うと、記者として見ている立場からするとかなり暗い話です。
そうした人の一部がミラ・ムラティで、私の理解では彼女は20分間だけOpenAIの新しいCEOでした。その後、交代させられた。とても複雑な力学があったし、もちろんサムは戻ってきた。もう一人はイリヤ・スツケヴァーで、彼はサムを排除するための投票の一人だったのに、その後、考えを変えた、少なくとも考えを変えたと言っていて、そして 自分の会社を立ち上げるために去った。彼が考えを変えたのは何がきっかけだったのか、わかりますか？それはただ金でしょうか？
ええ、はっきりさせると、私はこの二人だけを特別に取り上げているわけではありません。解雇に関わっていた他の取締役たちも、その後かなり沈黙してしまった。これは、より広い意味での集団的な問題のように思います。たとえば場合によっては、警報を鳴らし、過激な行動に出るだけの倫理的な信念を持っていた人たちで、そのことは称賛されてしかるべきです。そしてそれが、説明責任を担保する方法です。もしそうだったなら、この技術の影響を受ける多くの人々を助けられたはずです。さらに、この業界が、より実質的に安全重視であり続ける助けにもなり得ました。
しかし内部告発者や、その説明責任を促そうとする人たちに向き合うと、信念を貫き、辛抱して自分の主張を支えるだけの“芯”が必要だということも見えてきます。そしてこの業界は、ほんとうに自分の信念を貫かない人で満ちているのです。
たとえ、自分たちはデジタルの神を作っていて、結果的にどうにかして労働をなくすのか、あるいは労働をもっと生み出すのか、そういう何かが起きるはずだと彼らが思っていても。
それが問題の核心なんです。つまり、何かが燃え上がって、自分のビジネス上の立場を脅かし得るような熱が生じた瞬間に、倫理的な懸念や、自分の信念に立ち続けることがすべて脇に追いやられる――そうした文化は、ある程度まで、いわゆる通常運転でやっているだけの会社、どんな種類のガジェットであれ作っている会社にとっては、うまく機能してしまうのかもしれません。
でも実際には、同じ人たちが「これは文字通り私たち全員を殺し得る」とも言っている。そして繰り返しますが、ターミネーターのスカイネット極端なところまで行く必要はありません。すでに現実になりつつある一群のリスクがある。それは本物で、そうした警告をする彼らは正しい。ただし、そうした緊急の警告を発し、つま先を突っ込んで何かしようとしているかもしれないのに、その後は折れて黙り込んでしまう――その二つが同じ人の中でどう両立し得るのかを、誰か別の人が机上の心理分析で説明する必要があるでしょう。
まさにそれこそが、こうした事例が書面に残されないようにしたり、揉み消されたりして、しかもその後何年も経っても誰もこんなふうに率直に話さない――という状況が生まれてしまう理由なんです。
ここで本来、責任を負うべき自然な主体は、これらの企業のCEOではなく、政府です。アメリカなら、州政府の可能性もあるし、連邦政府の可能性もあります。
もちろん、これらの企業はいずれもグローバルになりたいはずです。ここには多くのグローバルな含意があります。私はOpenAI、Google、Anthropicが相次いで バイデン政権に対してAIの大統領令を出させようと仕向けるのを見ました。ただ、結局それはかなり歯の抜けたものになりました。要するに、自分たちのモデルが何にどこまで対応できるのかを語り、安全性テストをいくらか出すように、というだけです。ところが、その後彼らは全員トランプに肩入れし、トランプが政権に入って それをすべて白紙に戻してしまい、「競争力が必要だ。やり放題だ。さあ、やってみろ」だなんて言ったんです。
その一方で、彼らはみな、石油マネーがたくさんあって自国の経済を変えたいと考えている中東の国から資金を集めようともしています。そこには政治家がいます。政治家には、誰かが都合のいい口を二つ使って話していると理解してもらうべきだし、結局のところ誰かが失望しても、あまり腹は立てないだろう。でも政治家のほうも、結局は巻き込まれて振り回されているのです。なぜそうなると思いますか？
私の見方では、まさにそれがこの記事の意味の大部分で、これだけ時間をかけて詳細に書く価値があった理由です。あなたが言うように、監督を提供すべきシステムが、単に空洞化してしまっている環境に私たちはいる。これはポストCitizens Unitedのアメリカです。金の流れがあまりにも規制されておらず、そして問題がAIの周辺に特に集中している。つまり、PACが増殖して州レベルと連邦レベルの双方で、意味のある規制を潰すために大量の金が流れ込む状態です。
そこでは[OpenAI共同創業者]のグレッグ・ブロックマン、サムの副司令官が、主要な形で直接的に貢献している場合がいくつかあります。それによって、議員や潜在的な規制当局が実際に“取り込まれる”状況が生まれてしまう。そこから抜け出すのは難しい。悲しいことに、私は、この説明責任の問題の一部を助ける、シンプルな政策の動きがあると思います。しかも、そのうちのいくつかは世界の別の場所でも試されている。
たとえば、より義務的な事前の配備前安全性テストが考えられます。これは、すでにヨーロッパでフロンティアモデル向けに行われています。つまり、このケースで書面に残されないままにされていたような内部調査の種類について、より厳格な公開記録の要件を設けることもできます。このケースで見られたようなことを“書面に残さない”ようにする動きがあるとすれば、それを抑えるためです。さらに、サム・アルトマンが押し進めていた中東のインフラ構想のようなものに対応する、より堅牢な国家安全保障レビューの仕組みを用意することもできます。
おっしゃる通り、彼はバイデン政権相手にいわゆる餌とり（バイトゥアンドスイッチ）をやっていて、「規制してください、規制してください」と言いながら、彼らが大統領令を作るのを手助けした。ところがトランプが入ってきたとたん、本当に最初の数日で、手加減なしで、「加速しよう、アブダビに巨大なデータセンターのキャンパスを建設しよう」と言い出した。あなたが挙げられるのは、これ、すごく単純な話だ。内部告発者の保護だ。AI企業の従業員が、この記事で取り上げられているような安全上の懸念を開示しても、それを保護する連邦法の枠組みは存在しない。
実際に、OpenAIのシニアの安全担当だったヤン・ライクが、会社で超アライメント（スーパーアラインメント）を主導していたことがあります。彼は取締役会に手紙を書いている。要するに内部告発者としての素材で、「会社は安全ミッションから脱線している」と訴えている。そういう人たちには、実際に相談できる監督のための機関が必要で、さらに他の分野で見られるような明確な法的保護が必要です。これは、サーベインズ・オクスリー型の制度をそのまま複製するだけでいい。
シリコンバレーが権力のレバーを全部握ってしまうという問題が、いかに深刻かは分かっていますし、それらの監視や歯止めになり得るはずの機関の一部がどれだけ空洞化しているかも分かっています。それでも、私は民主主義と、自分の利害に関心がある政治家というものの「基本的な計算」は信じています。そして、ますます多くの世論調査データが出てきていて、大多数のアメリカ人は、AIに関する現在の懸念や問い、リスクのほうがメリットを上回っていると考えているのです。
だから、政治へのAIからの大金の流れは、私たちの誰にでもできることです。政治家にとって、それが「疑問符の種」になるようにできる。アメリカ人が投票に行くときには、これらの懸念を踏まえて、彼らが投票する相手、とりわけ批判的に検証せず規制にも反対するタイプの人たちが、大手テックの特殊な利害関係者に資金を出してもらっているのかを精査すべきだと思います。つまり、この記事のようなものを読んだり、このようなポッドキャストを聴いたりして、投票者としての自分の判断を批判的に考えるだけの関心を持てるのであれば、ワシントンに監視を怠らず、監督を実現させるように圧力をかける代表者たちの支持基盤を作る現実的な機会があると思うのです。
それは、現在のAI業界について誰かが言ったことの中で、私が聞いた中でも最も楽観的な内容の一つかもしれません。ありがたいです。あなたが話している世論調査のことに、私は夢中になっています。今はそれが大量にあります。どれもかなり一貫していて、特に若い人ほど、AIに触れるほど、それに対してより不信感を抱き、怒りも大きいように見える。そうした「感情の方向性」が、全ての調査に共通しています。私はそれを見て、なるほど、賢い政治家ならそこに対して戦えばいいだけだと思う。つまり、「大手テックを説明責任に引き戻す」と言ってしまえばいい、という話です。
でも私は、過去20年を思い返します。政治家が「大手テックを説明責任に引き戻す」と言ったはずなのに、私は大手テックが本当に説明責任を問われた瞬間を、たとえ一つでも探そうとして見つからない。これが違うかもしれないと思う唯一の理由は、まあ、実際にデータセンターを建てる必要があるからです。そこには反対票を入れられるし、反対を申し立てられるし、抗議もできる。
データセンターに投票したことで 撃たれている政治家が、ちょうど最近いた。緊張が、呼ぶなら今は、熱病のような段階（発熱レベル）まで達している。あなたはシリコンバレーの閉鎖性を説明していましたが、これは閉じたエコシステムです。彼らは世界を運営できると思っているように感じます。彼らは政治に相当な金を突っ込んでいて、そこで直面している現実は、人々がその製品を好んでいない、ということです。つまり、彼らにとっては防御（言い逃れ）の材料があまりない。使えば使うほど人々は腹を立てる。その結果、政治家たちも、テック産業を支持することには、彼らが代表する人々に対して現実の結果が伴うのだと、ようやく見えてきているのです。
あなたはとても多くの人に話を聞いてきました。テック業界が、目の前にあるその教訓を学ぶことは可能だと思いますか？
「説明責任なしで世界を動かせると思っているみたいだ」という話ですが、正直に言うと、その「みたいだ」という前置きが不要だとも思うんです。ピーター・ティールが使っている言葉を見れば、それは明確です。もちろん、これは極端な例です。でもサム・アルトマンは、ティールの思想にある程度近く、影響を受けてもいるとはいえ、それでもかなり別種の人で、ある程度まではもっと違う言い方で、より慎重に語るかもしれません。
それでも私は、ティールから得られる、より広いイデオロギーがあると思うんです。要するにこうです。「私たちはもう民主主義は終わり。もはや必要ない。私たちは、自分たちの小さな掩蔽壕（バンカー）を作っていくことだけに集中したい。これまでのカーネギーやロックフェラーのような存在とはもう付き合わない。彼らは悪者だった。しかし、彼らは社会契約に参加して、人々のために物事を作る必要があると感じていた。そこには、はっきりとした虚無主義が根を下ろしてしまっているんです。」
そして私は、最近のアメリカの歴史の中で、そうした流れは相互に強化し合うスパイラルになってきたとも思います。つまり、権力を持つ大物たちや民間企業が、超国家的な権力を獲得する一方で、それを説明責任に引き戻せるはずの民主的な機関は空洞化している。そういう連中が、ある日ふっと目を覚まして「なるほど、実は社会に参加して、人々のために何かを作る必要があるのかもしれない」と思うような展開には、私は楽観的になれません。
たとえば、マイクロな例として「The Giving Pledge（寄付の誓約）」を見てください。かつては寄付することが立派に見えるような時期があった。でもその時期はもう過ぎて、今では嘲笑までされている。これは問題です。そして、私が思うに、この問題は説明責任が欠けているという、より大きな問題であり、しかもそれは外からの要因（extrinsically）によってしか解決できないはずです。それを可能にするのは、投票者が動員されて、行政の監督という力を復活させることです。そして、あなたが言っている通り、そこで人々がそれを達成できる可能性がある主な手段は「ローカル」だという点は、まさにその通りです。インフラがどこに建設されるのか、それに関係するからです。
あなたは、この件をめぐって暴力や脅迫につながっている、燃え上がるような緊張についても触れました。もちろん、誰も暴力を振るったり、脅したりしてはいけません。そして私は、世界の他の地域でうまく機能している、基本的な政策ステップをいくつか提示すること以外は、具体的な政策提言をするつもりではありませんよね？あるいは、他の分野で働いてきた人たちがいるなら、その中のどれを実行すべきか、そしてどう実行すべきかを言いたいわけではありません。
私は、何かが起きる必要があると思います。そしてそれは、これらの企業を信頼するだけではなく、外部からのものである必要があります。というのも今、技術を開発していてリスクを最も理解するのに最適な体制が整っている企業が、実際にリスクを私たちに警告している当事者でもある一方で、そのスピードを出してそのリスクを無視することに向けたインセンティブしか持っていない、という状況になっているからです。しかも、それに釣り合うものが何もありません。だから、具体の面でどんな改革が必要だとしても、そこに何かがぶつかっていかなければならない。そして私は、やはり楽観的で、結局は人が大事だという点に立ち返ってしまいます。
私はあなたの主張には基本的に賛同します。ただ、私が言語化できると思う小さな反論を1つだけ挙げさせてください。投票所の外で起こり得るもう1つのことは、バブルがはじける、ということですよね。これらの企業が全てゴールまで到達できず、消費者向けAIアプリケーションにプロダクト・マーケット・フィットがない、ということです。とはいえ、私はまだはっきりとは見えていないのですが、私は消費者向けテックのレビュー担当ですから、たぶん皆よりも基準が高いだけなのかもしれません。
ビジネスの世界にはプロダクト・マーケット・フィットがあるんですよね？AIエージェントが大量のソフトウェアを書いているように見えること自体が、こうしたツールに対する実際の市場になっているように思えます。しかも、こうした企業が出している主張を読むと、”私たちはコーディングを解決しました。つまり、何でも解決できるということです。ソフトウェアを作れるなら、どんな問題でも解けます。”
ソフトウェアができることには、本当に現実的な限界があると思います。それはビジネスの世界では素晴らしい話です。ソフトウェアは現実のすべての問題を解決できない。でも、そこに到達する必要がある。仕事をやり切らないといけない。そして、ゴールまで行き着くのが全員とは限りません。クラッシュが起きて、バブルがはじけて、そして、たとえばOpenAIかAnthropicかxAIのような企業のどれかが失敗し、その投資がすべて消えてしまうかもしれない。
それはこの動きに影響すると思いますか？実は、最初の質問から確認させてください。OpenAIはIPOの瀬戸際にいます。サムがリーダーとしてどうかには多くの疑念があります。彼らはゴールまでたどり着けると思いますか？
先の予測はしませんが、重要な点をあなたが挙げたと思います。つまり、市場のインセンティブはシリコンバレーの内部では効いている、そして現状のバブルが持つ脆さによって、（また、批評家によれば）安全面での底なし競争への道が、潜在的に中断され得る、ということです。
それに加えて、同様で、しかも一見すると乗り越えがたい市場のインセンティブの束があり、一般の人々にとって潜在的に有害な影響が生じる可能性があるときに、歴史上どんな前例があるかを見てみると、影響訴訟（impact litigation）があります。最近、それを懸念すべき領域だと見てしまいます。サム・アルトマンは今週、AI企業を免責するような立法を支持しており、たとえばOpenAIが不当な死に関する訴訟でさらされてきた種類の責任の一部から企業を守ることを目指しています。もちろん、その免責を求めたいという気持ちはあります。
裁判所は依然として、意味のある仕組みになり得ると思います。そして、これらの訴訟がどう形作られるのかを見るのは本当に興味深いでしょう。すでにたとえば、私や私が知る非常に多くの著者がメンバーになっている著作権で保護されていた本の利用を理由に、Anthropicを相手取った集団訴訟がありました。もし賢い法の頭脳と、気にかける原告がいて、私たちがこれまで大手たばこから大手エネルギーまでの事例で見てきたように、そうした動きがあれば、一定のガードレールや、速度を落とす、慎重になる、そうすることで人々を守るといったインセンティブを作り出すこともできます。
AI業界のコスト構造全体が、非常に非常に寛大な「フェアユース」の解釈にかかっているように感じます。それが当然のように十分に問題にされていないのが気になります。もし彼らがあなたや、彼らが奪ってきた他の誰もに対して支払いをしなければならなくなれば、これらの企業のコスト構造は制御不能なほどに膨れ上がり得ます。でも、そう考えるのは面倒なので、私たちは考えないままにしています。しかも、そのすぐ隣で、これらの製品は今すべて赤字で動いています。つまり今日でも、全部が赤字で動いています。彼らは、自分たちが稼げる金額よりも多くのお金を燃やしています。いずれスイッチを入れ替えなければなりません。
サムは実業家です。あなたが何度も触れていたように、彼はテクノロジストではありません。ビジネスの人です。彼はスイッチを切り替えて、「私たちは1ドル稼ぎにいくんだ」と言う準備ができていると思いますか？というのも、私が「OpenAIは稼げると思いますか？」と聞くとき、それは彼らが稼ぐ必要がある段階に来たときの話だからです。そしてこれまでのところ、サムは自分の会社を稼がせるのではなく、他の人のお金を集めることで自分の稼ぎを作ってきました。
ええ、それはシリコンバレーにとっても、投資家にとっても、そして世間一般にとっても、大きく残された問いです。OpenAIから出てくる声明や動きの中には、それに対するある種のパニックを示しているように見えるものがあります。ソラを止める、関連するいくつかのプロジェクトを止める、コアのプロダクトに絞り込もうとしている。けれども一方で、同時に大量のミッション・クリープも見えてくるんですよね。たとえば小さな例を挙げるだけでも、それは明らかに彼らのビジネスのコアではないのに、TBPNの買収です。
ところで、私たちがちょうどゴールに到達してファクトチェックをしている最中に、その種のジャーナリスティックな精査に直面している会社は、会話をより直接的にコントロールできるようなプラットフォームを獲得しました。私がこれまで交わしてきた会話に基づくと、この問題——すべての人にすべてを約束すること——が、コアのビジネスモデルにおける集中の欠如にも及んでいるのではないかと懸念する投資家はかなり多いと思います。まあ、私はあなたほど先行き予測をして市場を見ているわけではないので、OpenAIがスイッチを切り替えられると思うかどうかは、あなたと聞き手のみなさんに判断を委ねます。
ええ、私がその質問をしたのは、あなたが記事の中で、あるシニアのマイクロソフト幹部の発言を引用しているからです。その内容が「サムのレガシーは、スティーブ・ジョブズというよりも、ベルニー・マドフやサム・バンクマン＝フリードに似たものになってしまうかもしれない」なんです。かなり強い比較ですよね。その比較についてどう思いましたか？
それは言い換えだと思います。スティーブ・ジョブズの部分は引用文の一部ではありません。でも、それには興味深い種類の冷静さがある。つまり、「彼がSBFか、マドフ級の詐欺師のような存在で終わる可能性は、小さいながらも本当にあると思う」という言い方なんです。私の理解では、サムがそうした特定の種類の詐欺や犯罪で告発されているという意味ではないけれど、サムのほどの大きさの「言い繕い」や「欺き」が、最終的にその規模感の中で記憶されてしまう可能性がある、ということです。
ええ、正直に言うと、私が一番衝撃を受けたのは、その引用文の内容そのものというより、その引用文をもとにマイクロソフト内に当たってみると、「いや、そんなのあり得ない」みたいな反応が出てこないことなんですよね。「聞いたことがない」みたいにはならない。それどころか、「うん、ここにいる多くの人はそう思ってる」みたいな反応が返ってくる。それがすごい。だから、それはまさにこうした、手堅いビジネス上の根っこの疑問に行き着くんだと思います。
たとえばある投資家は、今回この特徴が「解雇された」その後の年々にわたってどのように持続してきたかを踏まえ――そして同時に、これはなかなか興味深い冷静な見方だとも思った――「サムが必ずしもリストの絶対最下位にいるべきだ、つまりこの技術を絶対に作ってはならない人々の中で、最も下に置かれるべきだ」とは限らない、と私に言った。とはいえ、いくつかの人はイーロン・マスクがその人物だと言っている。しかし、この特徴が、彼をおそらくAGIを作るべき人々の中で最下位に近い位置に置き、さらにこの分野の他の複数の主要人物よりも下にしているのだ。
だから私は、それは興味深い評価だと思った。そしてそれは、安全性に対する懸念にあまり乗っかっていない、いわゆる現実主義者から得られるような考え方だと思う。彼らはただ成長志向で、OpenAIにはサム・アルトマンが問題を起こしているのだと考えている。
マイクロソフトの件は本当に興味深い。あの会社は、自分たちが世界の頂点にいると思っていた。この投資をしたことで、誰よりも飛び抜けて、特に、そして最も重要なのはグーグルに対して優位に立ち、消費者の信頼を取り戻す――そう考えていた。今回の冒険によって、どれほど「焼けただれた」感覚があるのか。これはかなり冷静に運営されている会社なので、その点を過小評価できないと思う。
あなたは人物像や性格特性について触れました。ここで、私たちのリスナーからの質問で締めたいと思います。私は別の番組で、The Vergecastで、あなたに話を聞くつもりだと言って、そして「この件についてローナンに質問があるなら、知らせてください」と言いました。そこで、あなたが今説明している内容にきれいに結びつく質問が1つあります。読み上げます：
「アルトマンや他のAIリーダーによる、問題のある行動、容赦ない行動に対する正当化は、政治やメディアの他の著名なリーダーからローナンが聞いてきた正当化とどう違うのですか？ 彼らはみんな、『こうすれば世界が変わるのだ』と言って、自分たちの行動を正当化していないのでしょうか？『自分がやらなければ、誰か他の人がやる』から」」
ええ、それはいろいろなところでよく見られます。AIにおいてそれと異なるのは、存亡を左右する賭けの重さがあまりに独自に高いので、リスクに関する発言がどちらも極端になりがちだ、という点だと思いますよね。サム・アルトマンが「これは、私たち全員にとってライトアウト（終わりの可能性）があり得る」と言う。さらに、批判者は、質問者が指している狂気じみたものが極端だと言うかもしれない。そういうことです。
サムが記録に残る形でエロンに対して告発したことは、「彼は人類を救いたいのかもしれないが、それは“自分が”やる場合に限る」という点でした。勝ちたいという欲求のエゴ要素――サムがいつも使う枠組み――そして、これは歴史に残る案件であり、これがすべてを変えてしまうかもしれない。だから、シリコンバレーの大半の企業に見られる「いくつか卵を割らなきゃならない」という発想を、さらにその上に行ってしまっているところがある。AIを率いる一部の人物の頭の中には、どんな影響の出たとしても、完全に筋の通った合理化があるのだと思います。
そして卵を割るなんて話はさておき。多くの根本的な安全性研究者なら、危険を冒してしまうことで「国を壊す」「世界を壊す」、そして「何百万人もの人々を壊してしまう（その仕事や安全が天秤にかけられている）」可能性がある、と言うのではないでしょうか。そこが、これに固有の点です。私はこの報道の内容を振り返りながら、ここで締めくくりたい。これは本当にサム・アルトマン以上の問題だと、私は強くそう感じています。これは、制約がかからないまま進む産業であり、アメリカがそれを制御できないという、渦を巻いて悪化していく問題なのです。
ええ。まあ、楽観的な見方もありましたが、良いところで区切るとして、それが出発点としていい終わり方だと思います。
[笑い] どんよりした方向で締める。
もちろんです。どんな偉大な物語も、結局はそういうものですよね。マスク対アルトマンの裁判はこれからです。ここでさらに多くのことがわかってくると思います。たぶん、またあなたに話を聞きたいと思うでしょう。ローナン・ファロー、Decoderに来てくれて本当にありがとうございます。
ありがとうございます。
この回についての質問やコメントは？ decoder@theverge.com まで連絡してください。このメールは私たち、毎通ちゃんと読んでいます！
