Anthropicは今週こう言った 同社の新しいClaude Mythos Previewモデルの登場は、サイバーセキュリティの進化における重要な転換点だと、Anthropicは今週述べた。つまり、既存のソフトウェア防御戦略に対して、かつてない規模の存在論的な脅威をもたらすものだという。では、これは単なるAIの誇大宣伝なのか、それとも本当の転機なのか？
Anthropicによれば、Mythos Previewは、事実上あらゆるOS、ブラウザ、その他のソフトウェア製品に潜む脆弱性を発見するための能力の閾値を超え、さらにハッキングのための実用的なエクスプロイトを自律的に開発できるようになったという。こうしたことから、同社は当面、新モデルを数十の組織に限って公開している。含まれるのはMicrosoft、Apple、Google、そしてLinux Foundationであり、Project Glasswingとして知られるコンソーシアムの一環だ。だが、生成AIがサイバーセキュリティにどう影響し得るのかについて何年も続いてきた憶測の後、今週のニュースは、実際に「当たり（対処の時代）」が到来したのか、そしてそれが現実にどのような姿になるのかについて、論争を引き起こした。
Anthropicの主張には、極めて懐疑的な人もいる。彼らは、既存のAIエージェントはすでに、これまでになく簡単かつ安価にユーザーが脆弱性を見つけ、悪用できるよう支援していると指摘する。その現実こそが、企業がソフトウェアを発見し、修正する方法を改良しているのであって、パラダイム自体を根本的に変えるものではない、というのだ。そして加えて嫌な（不快な）点がある。Anthropicは、最新モデルを「謎めいていて、特別に強力で、独占的である」と位置づけることで、ほぼ確実に財務面で利益を得る立場にあるのだ。とはいえ、別の研究者や実務家の中には、Anthropicの評価に同意し、同社がMythos Previewは最初に到達できた能力にすぎず、最終的には他のモデルでも広く利用可能になると述べている点を挙げる人もいる。
「私は通常、こうした類いの話にはとても懐疑的で、オープンソースのコミュニティもだいたい非常に懐疑的です。でも、私は基本的に、これは本当の脅威だと感じています」と、クラウドセキュリティ企業Ederaの最高技術責任者であるAlex Zenlaは語る。
Zenlaらは、特にMythos Previewの1つの能力を転換点として挙げている。彼らによれば、生成AIは現在、「エクスプロイト・チェーン」と呼ばれるもの、つまり標的を深く侵害するために、脆弱性のグループを順番に悪用していく手順の特定と開発において、より能力が高まっているという。要するに、ルーブ・ゴールドバーグ（からくり博物館）の機械のようなハッキングだ。高度なハッキング手法の多くは、こうしたエクスプロイト・チェーンを用いる。さらには、いわゆるゼロクリック攻撃のように、ユーザーの操作や関与を必要とせずにシステムを侵害するものにも、それが含まれる。
「私たちはすでに、脆弱なソフトウェアや脆弱なハードウェアを企業が運用していて、パッチを当てることに苦労している世界に生きています。多くの企業は、インフラを守ることができません――それは、昨日から今日にかけて本質的には変わっていないんです」と、長年セキュリティのエンジニア兼研究者として活動してきたNiels Provosは言う。 「でも、私が理解している範囲では、Mythosは多段階の脆弱性を考え出すのが本当に得意で、さらに悪用の証拠も提供してくれます。これは根本的に問題領域そのものを変えるというよりは、こうした脆弱性を見つけて悪用するために必要なスキルの水準を変えるものだと思います。」
Mythos Previewの限定リリースが、Project Glasswingの参加者にだけ提供されることによって、防御側には、モデルを使って自社システムの弱点を見つけ、整理しながら検討を始めるためのわずかな猶予が生まれる。さらに、攻撃者がそうした能力を自分たちにも広く使えるようになる前に、ソフトウェア開発、更新サイクル、パッチの導入がどのように変わる必要があるのかを、より広い視点で取り組み始めることができる。
業界のリーダーたちは警告に耳を傾けているようだ。Anthropicのフロンティア・レッドチームのリードであるLogan Grahamは、WIREDに対し火曜日、この週の発表に先立って同社がProject Glasswingに関する問い合わせを組織に行ったところ、電話がどんどん短くなっていった、と述べた。潜在的な脅威が、より明白になっていったからだという。
「これは、モデル開発者全員が関わる問題です。私たちの目的は、ただ物事を始めることにあります」とGrahamは言った。「Mythos Previewが防御側の手に渡って、先行して取り組めるようになることが本当に重要です。」
「Mythos Preview」の影響を検討する人々は、テック企業の外にも大きく広がっている。ブルームバーグは今週、米財務長官スコット・ベッセンと米連邦準備制度理事会（FRB）議長ジェローム・パウエルが火曜日に米ワシントンD.C.にある財務省本庁で、サイバーセキュリティに対する「Mythos Preview」のようなモデルの潜在的な影響について話し合うために金融業界のリーダーたちを招いたと報じた。
プロジェクト「グラスウィング」のメンバーであるシスコの社長兼最高製品責任者（CPO）ジータ・パテルは、サンフランシスコで開催されたHumanX AIカンファレンスでWIREDに対し、「Mythos Preview」は「非常に、非常に大きな出来事」だと語った。
「長い目で見れば、防御が機械のスケールであることを確実にしたいのです。攻撃も機械のスケールだからです」とパテルは述べた。「もし私のインフラを攻撃することになる数十億ものエージェントがいるなら、それを効果的に防御できることを確認する必要があります。今回、アンソスロピックがやったことは素晴らしいことです。悪意のある行為者に対して単に非対称性のレベルを作り出すだけだからです。」
とはいえ、一連の騒ぎは過剰に誇張されているのだという見方もある。AIブーム全体の中の、ちょっとした枝分かれにすぎないというのだ。「ビッグテントの説教者が“終わりは近い”と言って、みんなの金を持ってさっさと町を出ていく—そういうことが起きるのが、昔からあるあらゆるスパゲッティ・ウエスタンです」と、長年セキュリティおよびコンプライアンスのコンサルタントを務めるデイヴィ・オッテンハイマーは言う。「ただ、ボルトアクションのライフルをまだ使っている相手に対して機関銃で戦い方を学ぶような“シフト”ではある。でも、魔法でも神秘でもない。」
しかし、これらの価値観の転換があらゆる業界や組織に広がるまでにどれほど時間がかかるかを考えると、特定の出来事や進展をきっかけに注意喚起を行うことには価値がある、という論もある。実際、サイバーセキュリティを巡る一連の“再検討”は、たとえば「ゼロトラスト」アーキテクチャの重要性を浮き彫りにした、グーグルに対するオーロラ攻撃のような壊滅的な侵害の後に起きてきた。または、ソフトウエア開発における「設計段階からのセキュア（secure by design）」というアプローチを広めた、ソーラーウィンズやログ4シェルに関するハッキングの連続事件の後でもある。アンソスロピックは、「Mythos Preview」の登場は、より慎重なタイプの転換点として利用できると主張する。というのも、それは最悪のケースシナリオを現実に示したものではなく、これから起こりうることの警告だからだ。
セキュリティの専門家も、こうした局面は、現在のソフトウエア開発のあり方における不足を是正する機会になるとも述べている。
「何十年もの間、私たちは“脆弱性（vulnerabilities）”—そもそも存在しているべきではなかったソフトウエアの欠陥や不具合—を“防御し、検知し、対応する”ために、巨大なグローバル産業を築いてきました」と、長年サイバーセキュリティ実務に携わってきた人物であり、元の米サイバーセキュリティ・インフラストラクチャ・セキュリティ庁（CISA）長官であるジェン・イースターリーは水曜日に書いた。彼女は、プロジェクト「グラスウィング」は「AIが、欠陥のあるソフトウエアにひたすら対処し続けることから私たちを押し進め、最初からより安全な技術を作る方向へ導いてくれる未来を切り開く」ことにつながり得ると述べている。「それはミッションとしてのサイバーセキュリティが終わるという意味ではなく、私たちが知るサイバーセキュリティが“終わりに向かう”ことの始まりです。」
エデラのゼンラは、「Mythos Preview」は、すべてを一夜にして変える稲妻のようなものではないと強調している。代わりに、彼女はそれは、無限のタイプライターの前で無限のサルがやがてシェイクスピアを生み出す、という“セキュリティ版”に向けたさらなる一歩だと言う。
「脆弱性の研究者が100万人いれば、膨大な数のバグを見つけられるでしょう。でも、人間は長時間にわたって頭の中で大量の状況（コンテキスト）情報を保持するのがあまり得意ではありません。そのため、一緒に悪用可能な“非常に長い脆弱性の連鎖”を見つけることは、これまで稀でした」と彼女は言う。「Mythosや、それのようなモデルは、攻撃者が脆弱性を“セット”としてまとめ、互いに機能する形にできるようになるまでのスピードを加速させます。これに対して長い間不機嫌な人は出てくるでしょう。でも私は、この力学（ダイナミクス）が変わったのだと思います。」
追加取材：マクスウェル・ゼフ。
