2026 · 05 · 22 · 金

5/22 のアップデート

今朝は AI エージェントの安全設計で、OWASP の公式チェックリストと CI テストツールが揃った話です。三本柱の抜け漏れを確認できる環境が整ってきました。

A · Theme of the day

エージェントの安全設計、標準と自動検証が揃う

OWASP 公式リストと Microsoft 製 CI ツールが揃った週です。

OWASP、初の公式チェックリスト

AI エージェントの権限設計
以前との違い

先月まで三本柱は自己流実装が前提で、どの脅威に対処できているかを確認する公式リストがありませんでした。MCP 普及でツールが増えた分、リスクも広がっていました。

何が起きたか

OWASP が 2025 年 12 月、自律型エージェント特化の初の公式リスク分類「Agentic Top 10」を公開。三本柱の設計レビューにそのまま使える。

なぜ重要か

本番でエージェントを動かすチームは、現状設計を 10 項目と突き合わせるのが一番早いはずです。PoC 段階なら急ぎませんが、本番前に読んで損はないです。

RAMPART、安全性を CI で自動検証

AI エージェントの権限設計
以前との違い

ここ半年でエージェントは本番に届き始めましたが、権限が実装後も崩れていないかの確認は個別実装と手動レッドチーミング頼みでした。CI に組み込める公式ツールはありませんでした。

何が起きたか

Microsoft が 2026 年 5 月、レッドチーミングを CI/CD に組み込む pytest フレームワーク「RAMPART」を OSS 公開。

なぜ重要か

CI/CD で運用するエンジニアは「80% の実行で安全」を検証でき、権限設計の崩れを本番前に発見できます。同時公開の「Clarity」は出たばかりで様子見でも。

Archive

過去のアップデート

サイトに反映された変更を日次でアーカイブしています。