デイヴィッド・シルバーは世界に、超知能の最初の姿を初めて垣間見せました。
2016年、Google DeepMindで彼が開発したAIプログラムであるAlphaGoが、世間で有名なほど難しい囲碁というゲームに、自力で挑みました。しかも、それは、単なる模倣をはるかに超えるような熟達のような形で身につけたのです。
それ以来、シルバーは自らの会社Ineffable Intelligence（不可説知能）を立ち上げ、より汎用的な形のAI超知能を構築することを目指しています。シルバーによれば、同社がそうするのは、試行錯誤を通じてAIモデルが新しい能力を学習する強化学習に注力するからです。その狙いは、多くの領域で人間の知能を超える「スーパーラーナー（超学習者）」を生み出すことです。
この考え方は、大半のAI企業が超知能を作ろうとする計画、つまり大規模言語モデルのコーディング能力や研究能力を活用することとは対照的です。
ロンドンの自分のオフィスからWIREDに語ったシルバーは、このアプローチは失敗すると考えている、と言います。LLMが驚くほど優れているとしても、それらは自分自身を作るのではなく、人間の知能から学ぶのです。
「人間のデータは、一種の化石燃料のようなもので、素晴らしい近道を提供してくれたんです」とシルバーは言います。「自ら学習する仕組みを、再生可能な燃料のようなものだと考えることができる。つまり、学んで学んで学び続けられる――しかも限界なく――何かです」と彼は言います。
私はシルバーに何度か会っていますが――この宣言にもかかわらず――彼はいつも、AIの中ではより謙虚な人の一人に見えました。時々、彼が「くだらない」と思うようなアイデアについて話すときには、いたずらっぽい笑みを浮かべるのです。でも今は、彼は死ぬほど本気です。
「私は、私たちの使命を超知能との第一接触を実現することだと捉えています」と彼は言います。「超知能というのは、もちろん素晴らしいものです。超知能は、自分自身で新しい科学や技術、あるいは政府や経済学のあり方を見つけ出すはずです。」
5年前なら、そんな使命はばかげているように思えたかもしれません。しかし今では、テック企業のCEOたちが、機械が人間の知能を追い越し、労働者のさまざまなカテゴリーを丸ごと置き換えることについて、もはや日常的に語っています。新しい技術的なひねりが、超人的なAI能力の解放につながるという発想は、最近、数十億ドル規模のスタートアップの群れを生み出しました。
Ineffable Intelligenceはこれまでに、評価額51億ドルという規模でシード資金として11億ドルを調達してきました――欧州のAI基準では非常に大きな金額です。シルバーはまた、Google DeepMindやその他の最前線の研究所から、トップクラスのAI研究者を引き抜き、この取り組みに参加してもらっています。
シルバーによれば、彼がIneffable Intelligence（不可説知能）への株式から得ることになるお金――成功すれば数十億ドルに達する可能性もある額――はすべて慈善事業に寄付するのだそうです。
「超知能に焦点を当てた会社を作るのは、ものすごく大きな責任です」と彼は私に語ります。「私は、これは人類の利益のために行うべきことだと思っています。そしてIneffableから私が得たお金は、できるだけ多くの命を救う、高いインパクトを持つ慈善団体に寄付されるはずです。」
Total Focus
シルバーは子どもの頃、チェスのトーナメントでGoogle DeepMindのCEOであるデミス・ハサビスと出会い、その後二人は生涯の友人であり、協力者にもなりました。
シルバーがGoogle DeepMindを離れても二人の距離は近いままでした。シルバーがそこを辞めたのは、自分としてはまったく新しい道筋を描きたかったからだといいます。 「このアプローチに対して、100%集中する“エリート級”のAIラボが実際に存在することは、本当に重要だと感じています」彼は言います。「それが、LLMに専念する別の場所の片隅に過ぎないわけではない、ということです。」
LLMベースのアプローチの限界は、シルバーによれば、単純な思考実験で見て取れます。時間をさかのぼり、世界が平らだと信じている世界に大規模言語モデルを解き放ったとしましょう。現実世界とやり取りできないのなら、そのシステムは、自分自身のコードの改良を続けていても、平地説の信奉者であり続ける――そうだと彼は言います。
一方で、自分自身で世界を学習できるAIシステムなら、自分自身で科学的発見を生み出せるはずです。
シルバーは、AIの現状を、ダーウィン以前の生物学の理解にたとえます。 「ダーウィンが来るまで、“生命とは何か”を理解しようとする人は皆それぞれいたのに、生命を本当に説明する統一的な見方を持つ人が誰もいなかったんです」と彼は言います。
Ineffable Intelligenceにとっての大きな問いは、囲い込まれた世界——たとえば囲碁のようなゲーム——から、現実世界の想像を絶する複雑さへ、どうやって移行するのかということだ。
シルバーは、その実現方法として、AIエージェントをシミュレーションの中に配置することで達成できる道があると見ている。どんな見た目のシミュレーションになるのかについては言い渋っているが、そのアプローチなら、エージェントが目標を達成するための学習を行い、互いに協力できるようになるはずだと言う。
Ineffable Intelligenceに投資しているLightspeed Venturesの共同創業者兼パートナーであるRavi Mhatreは、「シルバーは『人間の前提（プライオリ）なしで、知能を拡張できること』を裏付ける、基本的に単一で首尾一貫した論証そのものを生涯の仕事としてきた『世界クラスの研究者』だ」と述べる。
ただし、このやり方で超知能を構築しようとすると、新たな問題が生じる可能性もある。というのも、出来上がったAIが、問題を解く最適な方法を見出す一方で、それが人間の価値観や利害と一致しない可能性があるからだ。
シルバーは、シミュレーションの中で技術を開発することが役に立つと言う。なぜなら、より低い知性を持つ存在も含めて、AIエージェントが他者に対してどのように振る舞うのかを観察できるからだ。「この方法なら、実際にどんな行動が創発するのかを見ることができる」と彼は言う。
Mhatreは安全性の問題についてシルバーを強く詰めたという。そして、彼のアプローチは、人間の行動から学ぶことにあまり依存しないため、整合した（アラインドな）AIを作るよりよい方法を提供し得ると考えている。Mhatreは、「彼は、『私たちが望むもの』と相性がよい、もしくは無害であるような高度に知的なシステムをどう作るかに非常に集中している」と述べる。
近道なし
コンピュータが、いつか人間のように——経験から——学ぶようになるかもしれない、という考えは、計算機科学の初期の時代にまでさかのぼる。そこには、アラン・チューリングによるもののような文献も含まれる。この達成に用いられるアルゴリズム的アプローチが、強化学習として知られている。
シルバーは長い間、このアプローチが超人的な機械知能を作るための「真の鍵」だと信じてきた。シルバーのメンターの一人であるリッチ・サットンは、長年の共同研究者であるアンドリュー・バルトとともに、初期の強化学習アルゴリズムを開発した功績により、2025年にチューリング賞を受賞した。
いまのAIの世界は、LLM（大規模言語モデル）と、そこに関わる別の訓練アプローチ——本、インターネット上のページ、その他の情報源からの膨大な量の人間のテキストをかき集めてAIアルゴリズムに投入する——に、より強く焦点が当たっている。
しかし、強化学習は、今日のAIシステムを生み出すうえで重要な役割を果たしてきた。LLMの出力を人間のフィードバックで形作ることで、チャットボットを構築できるようにしたのだ。さらに最近では、特に数学やプログラミングのような領域で、LLMベースのAIシステムがより複雑な問題の解き方を学習できるようにもした。
慈悲深い創造主
超知能に向けた競争は、ますます目まぐるしくなってきた。大手企業がインフラ構築に数十億ドルを投じ、才能も採用している。中には、とんでもない規模のバブルが膨らみつつあると見る人もいる。
スタートアップに投資しているSequoia CapitalのVCであるソニア・ホアンは、Ineffable Intelligenceが際立っているのは、シルバーの目覚ましい実績と、彼のビジョンの純度があるからだと述べる。
「本当に土台となる仕事を成し遂げた人は、かなり——多分片手で数えられるくらいではない——非常に少ない。デイヴはその一人です」とホアンは言う。
ホアンは、いまAI企業が使える計算資源（コンピュート）の膨大さと、シミュレーションの高度化が、シルバーのアプローチへの確信を彼女にもたらしたと語る。「私自身、次の大きなブレークスルーがどこで見つかるのかという彼の仮説には、根本的に同意しています」と彼女は言う。
トップクラスの研究者であることに加えて、率直に言えば“性格が悪くない”というシルバーの評判は、才能の採用の面で有利に働くかもしれない。「研究者にとって、それはとても大きな意味を持つと思います」とホアンは言う。
Google DeepMindでシルバーと一緒に働いたアンドリュー・ダイも同意する。「彼は非常に頭のいい人で、常に議論に出せる新しいアイデアを持っています」と彼は言う。「それに、ええ、彼はとても感じがいい。ほかの人の意見を尊重して、研究者に自由を与えます」
シルバーにとっては、科学それ自体が人を惹きつけるはずだ。「純粋な科学の観点で言うと、これは私たちが今後取り組みうる可能性のある、最も重要な科学ミッションだと見ています」と彼は言う。
