Opinion アンソロピックは、Project Glasswingを「技術系大手の連合」であり、新しいMythos AIプログラムによって見つけている重要なオープンソースソフトウェアに潜んでいた長らく見つかっていない脆弱性を探し出して修正するために、AIリソースとして1億ドルを拠出するとコミットしているという。あるいは、The Regの言葉を借りるなら、「ゼロデイ脆弱性を生成できるAIモデル」だ。

おっと！ まさに私たちが必要としていたものだ。AIによるセキュリティ不具合の“おかゆ”——ではなく、自動化され、専用のAIによるセキュリティ不具合“おかゆ”だ！

アンソロピックによれば、Claude Opus 4.6はゼロデイをほとんど見つけられないが、Mythos Previewは72.4％の確率で動作するエクスプロイトを出してくる。アンソロピックが現時点での用途を限定しているのは幸いだ。もし、その誇大宣伝が本物なら、Mythosは1日でインターネットをクラッシュさせかねない。

Project Glasswingは、Mythos Previewへの無料アクセスを非常に太っ腹に提供している。アンソロピックは「ソフトウェアの脆弱性を見つけて悪用する点で、最も熟練した人間を除くすべてを上回る」と主張している。Mythos Previewの利用クレジットとして1億ドル分を付け、さらにオープンソースのセキュリティ組織への直接寄付として400万ドルを拠出する形だ。オープンソースソフトウェア、つまり稼働しているソフトウェアの97％を安全にするには、これで十分なお金なのだろうか？ 私はそうは思わない。

アンソロピックを信じていいのか？ 同社は、OpenBSDで27年前の不具合を見つけた、FFmpegの動画エンコードコードで16年前の脆弱性を見つけた、そして攻撃者が一般ユーザー権限から完全なroot制御へと権限昇格できるようにするLinuxカーネル内の“新しい連鎖型エクスプロイト”のセットを見つけた、と主張している。

返却形式: {"translated": "翻訳されたHTML"}

それには感心できませんね。僕はプログラミングの世界に入るきっかけを、自分でバグを見つけることから得ましたし、開発者としてもたいしたものではありませんでした。とはいえ、長期にわたるLinuxカーネルのメンテナーであるグレッグ・クロア＝ハートマンが最近私たちに語ってくれたように、AIによるセキュリティのバグ報告は、突然「ガラクタ」から「役に立つもの」へと変わりました。

では、初期のベータであっても、ミソスがバグ探しにここまで優れているなら、それは何を意味するのでしょうか。次に必要なのは、そうしたバグを直す人です。いったい誰が「その猫の首に鈴をつける」のか？

そこで、ソフトウェアセキュリティやオープンソースについて、僕よりずっと頭のいい人たちに聞いてみました。すると、彼らはこう言いました。

まず、cURLの創業者兼リード開発者であるダニエル・ステンバーグに連絡しました。彼のチームは、AIの「ガラクタ」レポートが原因でバグバウンティの支払いをやめることになったのだそうです。彼はThe Registerにこう語りました。「ええ、このリスクは、すでに苦しい思いをしている数え切れないほどのオープンソースのメンテナーに、さらに負荷を追加することになるんです。問題点はまさにそこです。」

ステンバーグは、「AIの報告は、ここ数カ月でかなり良くなりました。昔ながらの、ほんとうにバカみたいなAIのガラクタレポートの頻度が、大幅に下がったんです」と同意しています。ただし、それらの多くは依然として脆弱性ではなく、結局は「単なるバグ」に着地します。さらに、その報告には修正や解決策が添付されないことが多いので、バグが報告されるのが嬉しいとしても、それがセキュリティ報告として大量に届くと、かなり大きな負荷になります。

つまり、ミソスがマーケティングで主張しているほど「かなりの出来」だとしても、メンテナー側の負荷は、近いうちにさらに増えるのではないかと考えています。繰り返し指摘しているとおり、オープンソースのプロジェクトには、メンテナーも資金面での支援も、決して十分ではありません。」

AIそれ自体が助けてくれるのでしょうか？もちろんです。Verizonのオープンソース担当シニアディレクター、ディルク・ホーンドルはLinkedInに投稿し、AIのコーディングツールはまだコードを保守する準備ができていない一方で、そうなるのも近いと考えていると述べました。「これは今日でも、ほぼ可能です」。そして、「ここ数四半期に見られた改善ペースを考えると、今年中のどこかの時点で、許容できる結果で実現できると確信しています」と続けています。

しかしステンバーグは、これまでのところAIsは、見つけることに比べて問題を直すことがはるかに得意ではない、と結論づけました。これもまた不均衡を助長します。つまり、巨大企業がいくつもあり、さらにそれらのツールを使うユーザーの軍勢が、より少なく、かつはるかに資源の少ないオープンソースプロジェクトの受信箱を埋め尽くしてしまうのです。報告が良い内容であっても、結局それは負担になります。

セキュリティ企業ChainguardのCEO兼共同創業者であるダン・ロレンツも同意しました。彼はこう述べています。「Glasswingは刺激的だと思いますし、こうした能力を“善い目的”で使おうとしている人々に届けるには、このような慎重な段階的導入が責任あるやり方だと考えます。同時に、それらを使うプロジェクトや企業は、すぐに出していく必要がある“本物の脆弱性とパッチ”の流入に対して、準備が整っていない可能性が高いでしょう。」

ロレンツは警告しました。「同様に強力なモデルを他社が出してくるのは時間の問題です。だから皆が、非常に近い時期に仕事の殺到に備えなければなりません。人々は、これが現実で、しかも来るものだということを、いつまでも無かったことにしてはいけないんです。」

その後、Linux Foundation（LF）のOpen Source Supply Chain Securityディレクター、デイヴィッド・ウィーラーに話を聞きました。ちなみにLFは、Glasswingを支援している団体の一つです。ウィーラーはこう言いました。「Anthropicは、単に“見つける”だけでなく“スキャンして安全にする”と提案しています。つまり、脆弱性を見つけるだけでなく、それらに対する修正もAIで作ろうとしているんです。ここが鍵だと思います。よく練られた提案修正があると、レポートを実際に対応するのがはるかに簡単になり、さらに“その脆弱性が何だとされているのか”が、より明確になるからです。」

それでは、Anthropicが「見つけて直す」点でどれほど上手いのか、いずれ分かるでしょう。

僕にはもう一つ別の問題も心配です。ミソスはプロプライエタリなソフトウェアです。もちろんAnthropicのClaudeのコードを見てみた人はいるでしょうが、とはいえ、赤い大きな文字でAnthropicの弁護士が言ってくるとおり、そのコードはオープンソースではありません。つまり、ミソスがコンパイラが発明されて以来のプログラミング上の最高のものだとしても、それはオープンソースのソフトウェアがプロプライエタリな解決策にロックされるということを意味するのでしょうか？その発想そのものが、背筋がぞっとします。

ウィーラーはこう返しました。「ロックインのリスクはありますか？はい、常にリスクはあります。とはいえ、リスクがそれほど悪いとは思っておらず、私たちはそれに対処する方法にも取り組んでいます。」

• オープンソースは「チップ入れ」ではない――アクセスに対して料金を取るべきだ
• おせっかいな国家がLinuxを発見し、起動前に子どものID確認を要求する
• アルトマンは軍事目的のAI乱用はノーと言った――それでもペンタゴンの案件にサインした
• オープンソースの開発者たちが、ダウンロードごとに金を払わせることを検討

「まず、たとえツールが一定期間しか使えないとしても、そのツールが私たちの脆弱性の発見と排除に役立つなら、それ自体は良いことです。ソフトウェアは有限で、欠陥の数も有限です。そしてセキュリティ上の欠陥には、重要度の違いがあります。サービスが終わるとしても、あるいは高すぎて使えなくなるとしても、脆弱性をより多く取り除ければ、悪用できるものは減っていきます。」

「それはさておき、ロックインについては懸念しています。私たちは解決策にも関心があります。結局のところ、新しいオープンソースソフトウェアのサイバー推論システム（OSS-CRS）がAIxCCから登場し、LLMベースの自律的なバグ発見・バグ修正システムを構築し稼働させるための標準的なオーケストレーション（統括運用）フレームワークになっているのです。」

とりわけ、「OSS-CRSはCRS開発のための統一インターフェースを定義しています。開発ガイドに従って一度CRSを作れば、ローカルやAzureなど異なる環境でも、変更なしで実行できます。ロックインの影響を受けにくくするために、このようなインターフェースを使うことを、CRSを作る人たちに促しています。OSS-CRSは、アンサンブル（これらのツールの集合体）を実行しやすくすることも可能にします。OSS-CRSは他にもいろいろありますが、少なくともリスクを軽減する方法があることを示してくれています。」

まあ、見ていきましょう。個人的には、ミソスがオープンソースのソフトウェアなら、もっとずっと安心です。ほとんどのAIソフトウェアは、根本的にはオープンソースを土台にしています。

とはいえ、私たちはAIとソフトウェア開発における転換点にいます。状況が根本から変わっています。LFのCEOジム・ゼムリンが述べたとおり、同意せざるを得ません。「切迫感は本物です。私たちは最も危険な局面、つまり移行期にいます。攻撃者が、テクノロジー・エコシステムがAIの影響を取り込む中で、大きな優位を得る可能性があるのです。AIを活用したときに、頭のいいサイバーセキュリティのチームが何をできるかについては、すでに証拠を見てきました。そして、AIの支援によって書かれた“現場で見つかった”新しいエクスプロイトキットを目撃してもいます。遅れを取るわけにはいきません。」

すべて正しい。ただ、もう一度、気持ちを込めて言うなら、本当に本当に答えがオープンソースのコードで書かれていてほしいと思います。®

詳細

• Anthropic
• 開発者
• オープンソース

これに似たもの