NHS、AIとセキュリティ懸念を理由に数百のGitHubリポジトリをクローズド化へ
医療大手の保守担当が、変更を実施するための5月の期限を提示された
英国の国民保健サービス（NHS）は、高度なAIやAnthropicのMythosに関連する懸念を理由に、組織のオープンソースプロジェクトを一時的にすべて「壁で囲う（クローズド化する）」よう、テクノロジー責任者たちに命じています。
組織内で共有され、The Registerが確認したガイダンスによると、GitHubリポジトリは5月11日までに、公開（public）から非公開（private）に設定する必要があります。
ガイダンスには次のように書かれています。「公開リポジトリは、ソースコード、アーキテクチャ上の意思決定、設定の詳細、そして悪用されうる可能性のある文脈情報が意図せず開示されるリスクを、実質的に高めます。特に（Mythosモデルのような）大規模なコード取り込み、推論、そして推理（reasoning）を可能にするAIモデルの急速な進歩を踏まえると、です。」
またGitHubのリポジトリは「明確で例外的な必要性がある場合を除き」公開にしてはならないともしています。この判断は、NHSのエンジニアリング・ボードによって承認されました。
NHSイングランドのスポークスパーソンは、The Registerに対し、これは組織がサイバーセキュリティ体制を固める間に実施するだけの「一時的な措置」であると説明しました。
「AIモデルの急速な進展がもたらす影響を評価しながら、サイバーセキュリティをさらに強化するため、NHSイングランドの一部のソースコードへのアクセスを一時的に制限しています。」と同氏は述べました。
「明確な必要性がある場合は、引き続きソースコードを公開します。」
NHSの情報筋によれば、数百あるNHSのオープンソースリポジトリのうち、医療に関して直接的に敏感と言えるようなものはごくわずかだそうです。たとえば、公開されているものには、ドキュメントに特化したもの、アーキテクチャ図、そして院内の診療枠の管理のためのWebアプリなど、内部ツール向けのコードベースが含まれます。
Mythosのような最先端のAIモデルが掘り起こしてしまう可能性のあるバグがゼロではないとしても、医療サービスへのリスクは非常に小さいと考えられています。
しかし、NHSがコードに「カーテンをかける」決定を下したことは、長年の「オープンソース優先」という方針に対する、大きい（ただし一時的な）方向転換を意味するものです。
組織のサービス・マニュアルは、英国政府全体の方針を反映し、「新たなソースコードはすべてオープンソースとして公開し、適切なライセンスの下で共有可能にすべきだ」としています。その理由は、資金の出どころにあります。
「公共サービスは公的な資金で作られています」とマニュアルは述べています。「したがって、そうしないことについて十分な理由がない限り、それらのサービスの[基になっている]コードは、他の人が再利用し、そこからさらに発展させられるように提供されるべきです。
「オープンソースのコードは、同じ作業を重複して行うことによる手間を減らし、より良いサービスをより速く構築するのに役立ちます。そして、オープンなライセンスの下でソースコードを公開することは、特定のサプライヤーとだけ仕事をする状態にロックインされる可能性を低くすることにもなります。」
NHSのオープンソースへの取り組みを伝えるためのWebページを削除する動きについての報道は、昨年末に広まっていました。これは、NHSが方針を揺らしている可能性を示唆しています。
しかし、医療関連組織はこれが、NHSXとNHS DigitalがNHS Englandに統合されることに関連した定期的なクリーンアップ作業の一部だと回答した。
NHS Englandは、この一時的なクローズドソース化がいつまで続くのかの見通しを示しておらず、また、先進的なAIモデルがそのオープンソースのリポジトリに与えると同社が最も重大だとみなす脅威についての質問にも答えていない。
Mythos…脅威か、それとも誇大宣伝か？
Regの読者なら、Anthropicの最新AIモデルであるMythosをめぐって渦巻くゴースト話に気づいているに違いない。Anthropicは、熟練した人間チームでも見落としてしまう脆弱性を迅速に見つけられるモデルだと売り込んでいる。 一方で、それを過剰に持ち上げすぎだと見る向きもある。
英国のAI Safety InstituteやNational Cyber Security Centre（英国国家サイバーセキュリティセンター）などの国家当局は、Mythosが予測されていたAI開発サイクルを超える進歩だというAnthropicの主張を、ある程度は裏づけている。
しかし別の人々は、その主張に対してもっと懐疑的だ。すなわち、されているとされるバグ探しの能力のことだ。これまでのところAIにはよくある問題だが、Anthropicはいまだ、脆弱性スキャンを実行する際にモデルが出してくる誤検知（false positives）の数を明らかにしていない。
Mythosをオープンソースのモデルと比較するテストでも、習熟度のギャップはAnthropicが示唆するほど大きくないことが分かっている。
現時点ではMythosはProject Glasswingの背後にロックされており、利用できるのは特定の組織に限られる。だがForresterのアナリストは警告している。強力なモデルが一般に、そして攻撃者にも届いたとき、オープンソースソフトウェアには現実の脅威が生じる。その脅威は、Project GlasswingへのAnthropicの400万ドルの寄付では、実質的に対処できない可能性が高いという。
NHSXの元オープンテクノロジー責任者であるTerence Edenは、公開されているオープンソースのリポジトリをパブリックからプライベートへ移しても、先進的なAI能力に対する有意義な防御にはならないと主張した。
「[人々の]オープンソースのコードは何年も前にすべて『学習目的』で取り込まれた」と、彼は最近のブログで書いている。「もし中程度にでも興味深いものなら、デジタル収集家によって裏打ちされていた。それはさまざまなデジタル図書館によってアーカイブされている。あなたのコードベースについて研究したい人なら、誰でもできる。
「今閉じたところで、あなたを実質的に守ることにはならない。」
組織にとって深刻な脆弱性の多くは、必ずしもそれぞれのコードベースにあるわけではない、と彼は付け加えた。むしろ、ソフトウェアのサプライチェーン——OSやライブラリなど——にある。
「より大きなリスクは、微妙なロジックのバグからではなく、フィッシングを行う者、パスワード管理の不備、そしてインサイダーの脅威にある。コードを急いでクローズドソース化するよりも、既存のシステムを確保する方が、より多くの防御をもたらす。」 ®
