2028年までに企業向け生成AIアプリケーションの25%が年間5件以上のセキュリティインシデントを経験する――米Gartnerは4月9日(現地時間)、このような予測を発表した。MCPなど、AIを外部ツールやデータに接続するための共通規格はセキュリティよりも利便性を優先した設計のため、適切な監視なく導入すると情報漏えいや不正操作のリスクが高まると警告する。
Gartnerは、MCPなどの規格を利用する際は、データの意図しない露出や外部コンポーネントの脆弱(ぜいじゃく)性などのリスクに備える必要があると指摘。特に、エージェントが機密データへのアクセス、信頼できないコンテンツへの接触、外部との通信を1つのワークフローの中で実行している場合には注意が必要だという。
これらのリスクに対処するには、厳格なレビュー体制の確立や、高リスクなユースケースでAIと外部を連携させないこと、既知の脅威パターンへの対処、業務分野の専門家によるガードレールの定義などの対策が求められるとする。
特に、AIアプリケーションを利用する際はそのアプリケーションを導入する業務分野の専門家との連携をGartnerは推奨する。AIにデータやリソースへのアクセスを許可する前に、業務の専門家がMCPサーバのオーナーになり、エージェントのガードレールを定義すべきだと強調した。
関連記事
Claude次世代モデル「Mythos」が一般公開されないワケ セキュリティ能力高すぎて「ゼロデイ攻撃自律開発」「出られないはずのサンドボックスから脱出」
Anthropicは、現行モデルを凌ぐ性能を持つ次世代モデル「Claude Mythos Preview」の存在を公表した。攻撃への悪用リスクから一般公開を見送り、現在は防御目的の限定活用にとどめている。
「Claude Cowork」一般提供開始 全社導入を支える管理機能も
米Anthropicは、AIエージェント「Claude Cowork」の一般提供を全有料プランで開始した。同時にアクセス制御や支出制限などの企業向け管理機能も導入した。
本番環境のAIエージェント開発を「10倍」高速化――「Claude Managed Agents」発表
Anthropicは、本番運用向けAIエージェントの構築、運用を効率化する「Claude Managed Agents」のパブリックβ版を公開した。実行環境やマルチエージェント協調機能を備え、開発の「10倍」高速化をうたう。
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.
続きを読むには、コメントの利用規約に同意し「アイティメディアID」および「ITmedia AI+メールマガジン」の登録が必要です



