口先だけじゃない：DARPA、新たなAI間コミュニケーションのプロトコルに向けた助成金を提供
MATHBAC計画は、科学的発見のためのより良い機械同士のやり取りを目指す
エージェントの科学的発見能力をさらに強化するため、DARPAは「AIコミュニケーションの科学」を開発し、モデル同士がより良いアイデアを生み出すために協力できるようにすることで、ボット間の連携を改善しようとしています。
国防総省の研究部門は火曜日、エージェントのボット間コミュニケーションの数学（MATHBAC）プログラムを発表しました。同プログラムには募集要項が付属しており、「自律エージェントおよびエージェントの集合による科学的発見を可能に／加速し、そしてそれを理解するために必要な、基礎数学・システム理論・情報理論」を前進させたい研究者に対して、34か月の2段階プロジェクトにおける第Iフェーズの資金として最大200万ドルの助成をめぐり応募するよう呼びかけています。
DARPAがこのプログラムを掲げる理由は単純です。AI開発はこれまでにいくつか驚くべき成果を生んできた一方で、その多くはいまだに経験則に導かれており、なぜその成果が起きるのかという十分な理解ではなく、結果に焦点を当てた場当たり的な試行錯誤のプロセスにとどまっています。同じ問題はエージェント同士のコミュニケーションにも当てはまります。DARPAがいう「厳密な数学的基盤」が、エージェントがどのように通信し、連携するのかを理解するために存在しない限り、そうした相互作用は、効率が低く、状況によって一貫せず、そして領域をまたいで一般化することが難しいままになるでしょう。
「AIは解の探索空間をナビゲートするのは得意ですが、仮説の探索空間を体系的に探索することは苦手です。仮説の探索空間の探索は、変革的で一般化可能な科学的洞察を生み出すために不可欠です」と、DARPAはプログラム発表の中で説明しています。「MATHBACが狙うのは、重要な新しい仮説の発見率そのものを、エージェント的な科学的推論の効率におけるブレークスルーを可能にするために、AIコミュニケーションを促進することで、体系的に加速させることです。」
MATHBACの第1フェーズでは、エージェント型のコミュニケーション・プロトコルを理解し設計するための数学を開発し、さらにそれらのコミュニケーションの内容を改善することに専念します。つまり、このプロジェクトはAIエージェントがどのように通信しているかだけでなく、彼らが何について通信しているのか、という点にも焦点が当てられているということです。
DARPAは、プロジェクトの第2の技術分野について説明する中で（第1はエージェント・コミュニケーション・プロトコルの背後にある実際の数学です）、次のように述べています。「相互作用プロトコルを評価し最適化することに加えて、MATHBACはエージェント型コミュニケーションの“コンテンツ（内容）”の特徴にも取り組みます」
この第2の技術分野では、エージェント同士の相互作用の“内容”を調べ、「データから『原理』（法則、相関）を発見することに重点を置く――つまり、コンパクトで汎用化可能な『小さな知見（nuggets）』を抽出し、協調するエージェントの共通知識モジュール（『メモリ』）の一部にしていくこと」を扱うと、発表は説明しています。
要するに、第2の技術分野が（第1のMATHBACフェーズで）やろうとしているのは、特定の科学分野で訓練されたAIエージェントの集団が、汎用化可能なルールを示唆するデータの集合から、一般的な科学的原理、法則、あるいは相関を推論できるかどうかを突き止めることです。ただし、そのデータはルールを明示してはいません。
例としてDARPAは、（達成するのが一般にほぼ不可能と見なされている）このプロジェクトの難しい目標の1つは、「原子に関する周期表を、データ主導でメンデレーエフ級の再発見から始めて、分子のための周期表の『多次元アナログ』へと進む」ことだと述べました。
うまくいくことを祈りたい
発表の中でDARPAは、「成功すれば、MATHBACは、科学的発見であれ教育であれ、『やり方（ways of doing）』を根本的に変えるでしょう」と述べました。これはその通りです。これは簡単なプロジェクトではありません――DARPAは、既存の実務の現状に対して主として漸進的な改善しかもたらさない研究については採り上げないとも言っているのです。つまり、成功と見なされるには、このプログラムを通じてAI科学における本当に革命的な飛躍を狙っている必要がある、ということです。
第1フェーズで提示された課題に加えて、第2フェーズではMATHBACの研究者たちにさらに踏み込むことを求め、これまで定義してきたコミュニケーション・プロトコルを用いて科学的課題を解く能力を最大化するような、AIツールの「体系的な進化／発明（systematic evolution/invention of new science）」の創出に重点を置くよう求めています。
- AIエージェントは新しい芸を自力で教えられない――教えられるのは人間だけ
- DARPAは、AIに“エネルギー泥棒”になっていることを自覚させたい
- AIエージェントが事業を動かしている最中に失敗したら、訴える相手がいない
- 光あれ！DARPAがAIを加速させるために、物理法則を覆しそうなフォトニック・コンピュータを探している
この目的は、DARPAが述べるところによれば、AIエージェントに対して、前述のコミュニケーション・プロトコルを使って科学的問題を解く能力を最大化する方向へ自己進化するように指示することで達成されます。DARPAは、目標としているレベルでのAIエージェントの協調には、AIエージェントに固有のまったく新しいドメイン言語が必要になる可能性があるとも述べました。それは、プログラムの第2フェーズで検討されることになります。
「これまで、AIやエージェント型プラットフォームにかかる進化上の圧力は、それらの開発に携わる人間にかかる進化上の圧力から生じていました。MATHBACは、この圧力をエージェント自身と、エージェントの協調スキルに移したいのです」と当局は説明しています。「MATHBACは、協調するAIエージェントのコミュニケーションについて、最良のプロトコル、内容、そしておそらくは言語までもを、体系的に探究し、理解し、設計します。」
MATHBACの提案は6月16日までに提出が必要で、プログラムは今9月の開始が予定されています。複数の採択先が見込まれます。DARPAは、この件に関する質問には回答しませんでした。®
