エロン・マスク側の唯一のAI専門証人が、オープンAI裁判で「AGIの軍拡競争」を懸念

AIの終末論者を、私たちはいつ真剣に受け止めるべきなのでしょうか？

それは、イーロン・マスクがオープンAIの営利目的のAI事業を止めようとする試みにおける重要な下敷き（伏線）です。マスク側の弁護士は、同組織はAIの安全性に焦点を当てた慈善団体として設立されたにもかかわらず、私利（利得）を追ううちに道を見失ったのだと主張しています。それを裏付けるために、同弁護士は、Google DeepMindへの対抗として公共心に富んだ重し（歯止め）が必要だという趣旨の、組織創設者たちによる古いメールや声明を挙げています。

今日、同社側はAI技術について直接語る唯一の専門家証人を呼びました。すなわち、AIを数十年にわたって研究してきたカリフォルニア大学バークレー校の計算機科学教授、スチュアート・ラッセルです。ラッセルの役目は、AIに関する背景を示し、この技術が懸念するに足るほど危険だということを位置づけることでした。

ラッセルは2023年3月、AI研究の6か月間の一時停止を求める公開書簡に署名しています。ここにある矛盾の兆しとして、マスクも同じ書簡に署名しました。もっとも、その時マスクは、自身の営利AIラボであるxAIを立ち上げていた最中でした。

ラッセルは陪審員および判事のイヴォンヌ・ゴンザレス・ロジャーズに対し、AI開発にはサイバーセキュリティ上の脅威から、ミスアラインメントの問題、さらには人工汎用知能（AGI）を開発する際に勝者総取りになってしまう性質まで、さまざまなリスクがあると述べました。最終的に彼は、AGIの追求と安全性の間には緊張関係があるのだ、と語りました。

制約のないAIがもたらす存在論的な脅威についてのラッセルのより大きな懸念は、オープンAI側の弁護士による異議申し立てによって判事がラッセルの証言を制限したため、公判の場で十分に取り上げられることはありませんでした。しかしラッセルは以前から、世界の各所にあるフロンティア・ラボが「最初にAGIに到達する」ことを競い合って生み出す軍拡（アームズレース）型の力学の批判者であり、政府に対してこの分野をより厳しく規制するよう求めてきました。

オープンAI側の弁護士は反対尋問で、ラッセルが組織の企業構造や、具体的な安全性に関する方針そのものを直接評価していないことを立証することに時間を費やしました。

しかし、この記事の記者（そして判事や陪審員も）に求められるのは、企業の貪欲さとAIの安全に関する懸念との関係に、どれほどの価値を置くべきかを見極めることです。オープンAIの創業者のほぼ全員が、AIのリスクについて強い警告をしてきた一方で、その利益も強調し、できるだけ速くAIを構築しようと努めてきました。そして同時に、自分たちが支配することになるAIに特化した営利企業のための計画をひそかに温めてもいました。

外から見ると、ここでの明確な問題は、オープンAIが創設された後の時点で組織の内部に広がっていった、成功するには単に計算資源（コンピュート）への支出をもっと増やす必要があるのだ、という認識が高まっていることです。その資金は、営利投資家からしか得られませんでした。単一の組織がAGIを握ることへの創設チームの恐れが、最終的にチームを引き裂くことになった資本を求めさせ、今日私たちが知る軍拡（競争）の構図を生み出し――そしてこの訴訟へとつながりました。

同じ力学は、すでに国家レベルでも起きています。上院議員バーニー・サンダースが、データセンター建設にモラトリアム（建設の一時停止）を課す法律を後押ししていることは、イーロン・マスク、サム・アルトマン、ジェフリー・ヒントン、そして他の人物たちが述べてきたAIへの恐れと同じ響きを持っています。データ革新のためのセンター（Center for Data Innovation）で働くホダン・オマールは、サンダースがそれらの懸念を理由に挙げる一方で、自分たちの期待（希望）は示していないとして異議を唱え、TechCrunchに対し「言論の危うい論法を埋めるために言葉が動員できるときだけ、テックの億万長者が言うことを例外的に割り引かない理由が、公衆には不明だ」と語りました。

いまや、この訴訟の双方が裁判所に対し、まさにそのこと――つまり、アルトマンやマスクの主張のうち、真剣に受け止めるべき部分は受け止める一方で、法的な主張にとって有用性が低い部分は割り引くよう求めています。

訂正：この記事は、カリフォルニア大学バークレー校のコンピューターサイエンス教授であるスチュアート・ラッセル氏の名前を正しくするために更新されました。.