インシデント対応：AI 起因の事故への備え
「事故は起きる前提」で備えるのがリスク管理。AI 起因のインシデント（情報漏洩・誤出力・暴走）への対応手順を用意します。
想定インシデント
- 機密/個人情報を外部 AI に入力してしまった
- AI の誤出力をそのまま顧客に出してしまった
- エージェント/連携の暴走・誤操作
- プロンプトインジェクションによる情報漏洩
インシデント対応：AI 起因の事故への備え
AI Navigate Original / 2026/5/16
要点
- 漏洩・誤出力・暴走に備えた対応手順を用意する
- 骨子は検知報告→初動→保全→範囲特定→連絡→再発防止
- 停止手順と責任者を事前決定、責めない文化、段階展開
- ガバナンス核は機密規則・インジェクション対策・保護・審査・対応
