CivicShield：多段（マルチターン）の敵対的攻撃に対して政府向けAIチャットボットを防御するための、クロスドメイン・ディフェンス・イン・デプス・フレームワーク

Abstract

政府サービスにおけるLLMベースのチャットボットは、重大なセキュリティ上の欠落に直面している。多ターンの敵対的攻撃は、現行の防御に対して90%以上の成功率を達成し、単層のガードレールも同様の割合で回避される。我々は、政府向けAIチャットボットのためのクロスドメイン・ディフェンスインディープ（多層防御）フレームワークであるCivicShieldを提示する。ネットワークセキュリティ、形式検証、生体免疫システム、航空安全、およびゼロトラスト暗号を取り入れ、CivicShieldは7つの防御層を導入する：(1) 能力ベースのアクセス制御を備えたゼロトラスト基盤、(2) パリムタ入力バリデーション、(3) 意図分類によるセマンティック・ファイアウォール、(4) 安全性不変条件を伴う会話状態マシン、(5) 行動異常検知、(6) 多モデルによるコンセンサス検証、(7) 人間を介した段階的なエスカレーション。8つの多ターン攻撃ファミリーをカバーする形式的脅威モデルを提示し、14のファミリーにまたがってNIST SP 800-53の統制へフレームワークを対応付け、アブレーション分析を用いて評価する。理論分析により、多層防御は単層アプローチに比べて攻撃確率を1〜2桁低減することが示される。HarmBench（416）、JailbreakBench（200）、XSTest（450）を含む1,436のシナリオに対するシミュレーションでは、段階的な応答の後に、72.9%の結合検知 [69.5-76.0% CI] と2.9%の有効な誤検知率を達成し、多ターンのクレッシェンド攻撃およびスロードリフト攻撃の検知を100%維持する。実運用ベンチマークにおける著者作成シナリオに対する率の低下（HarmBenchで71.2% vs 76.7%、JailbreakBenchで47.0% vs 70.0%）は、独立評価の重要性を裏付ける。CivicShieldは、AI安全、政府のコンプライアンス、実運用展開の交差点における未解決のギャップに対処する。