私たちはAnthropic Instituteを立ち上げます。これは、強力なAIが社会に投げかける最も重大な課題に取り組むための新たな取り組みです。Anthropic InstituteはAnthropic全体の研究成果を活用し、より強力なAIシステムが広がる世界への移行期に、研究者や公衆が利用できる情報を提供します。

Anthropicが始まってから5年、AIの進歩は信じられないほど速く進みました。最初の商用モデルをリリースするのに2年かかりましたが、その後わずか3年で重大な サイバーセキュリティの脆弱性を発見できるモデルや、多様な 実務に取り組むことができるモデル、さらにはAI開発自体の速度を加速させ始めるモデルを開発しました。

私たちは、今後2年間でさらに劇的な進歩が続くと予測しています。私たちの会社の中核的信念の1つは、AI開発は加速しており、私たちが行う改善は時間とともに累積しているということです。このため、CEOのダリオ・アモデイがMachines of Loving Graceで描写するような超強力なAIは、多くの人が考えるよりもずっと早く到来します。

もしこれが正しければ、社会は近いうちに多くの巨大な課題に直面することになります。強力なAIシステムは私たちの仕事や経済をどのように再構築するでしょうか？どのような社会的レジリエンスを向上させる機会をもたらすでしょうか？どのような脅威を拡大またはもたらすでしょうか？AIシステムの示す「価値」とは何か、そして社会は企業が適切な価値を決定する際にどのように支援すべきでしょうか？さらに、もしAIシステムの再帰的な自己改善が起こり始めた場合、それを誰が認識し、どのようにこれらのシステムを統治すべきでしょうか？

Anthropic Instituteの目標は、私たちが最先端のAIシステムを構築しながら学んでいるこれらの課題について世界に伝え、リスクに対処するために外部の関係者と協力することです。社会がこれをどのように受け止められるかが、変革的なAIが科学、経済発展、人間の主体性にもたらす革命的なメリットを実現できるかどうかを決定づけるでしょう。

この研究所は共同創業者のジャック・クラークが率いており、彼はAnthropicのパブリックベネフィット責任者という新たな役割を担います。機械学習技術者、経済学者、社会科学者による学際的なスタッフが在籍しており、Anthropicの3つの研究チームを統合・拡大しています。すなわち、AIシステムの現在の限界を理解するためにストレステストを行うFrontier Red Team、AIの実世界での利用を研究するSocietal Impacts、そして雇用や経済全般への影響を追跡するEconomic Researchです。さらに研究所は新たなチームも育成しつつ、AIの進歩予測や、強力なAIが法制度とどのように関わるかをより深く理解する取り組みを進めています。

Anthropic Instituteは独自の観点を持っています。先端的なAIシステムの構築者だけが持つ情報にアクセスできるため、私たちが作っている技術の形について学んだことを率直に報告します。同時に、この研究所は双方向の交流の場でもあります。影響を受ける労働者や産業、そして未来を見据えつつ対応に迷う人々や地域社会と関わります。そこで得られる知見は研究内容や会社全体の行動指針に影響を与えます。

Anthropic Instituteは以下の創設メンバーを迎えました：

• マット・ボトビニック：イェール・ロースクールのレジデントフェローで、以前はGoogle DeepMindの研究上級ディレクターやプリンストン大学のニューラル計算教授を務めていました。AIと法の支配に関する研究をリードします。
• アントン・コリネック：現在バージニア大学経済学教授を休職中で、経済研究チームに参加し、変革的なAIが経済活動の本質をどのように変えるかを研究します。
• ゾーイ・ヒッツィグ：以前OpenAIでAIの社会的・経済的影響を研究しており、経済研究をモデル訓練・開発と結びつける役割を担います。

私たちは現在も採用活動を行っています。Anthropic Instituteは、研究アジェンダの各部分をまとめて世界に発信する少人数の分析スタッフを構築中です。詳しくはこちらをご覧ください。

Anthropicのパブリックポリシーチームの拡充

Anthropic Instituteの立ち上げに合わせ、私たちはパブリックポリシー組織も拡充しています。

パブリックポリシーはAnthropicが優先する分野の課題や視点に焦点を当てており、