製造業RAGのPrompt Injection対策:3つの防御アプローチを比較する【コード付き】

Zenn / 2026/4/19

💬 オピニオンDeveloper Stack & InfrastructureTools & Practical Usage

要点

  • 製造業向けRAGで問題になるPrompt Injectionについて、実装・運用の観点から攻撃/失敗パターンを前提に対策を整理している
  • 防御アプローチを「比較」しつつ、それぞれの適用範囲や強み・弱みをコード付きで説明している
  • 生成AIが参照するコンテキスト(検索結果や投入テキスト)を起点にした悪用を抑えるための設計方針が中心になっている
  • 製造現場のように誤回答がリスクになる領域を想定し、RAGの信頼性を上げるための具体的な手当てを提示している
はじめに 製造業向けRAGシリーズの第4弾です。 第1弾(設計編)ではACL-aware retrievalの設計原則を、第2弾(実装編)ではChromaDB + Cohere + ClaudeによるACLフィルタリングの実装を、第3弾(運用編)では監査ログとイベント駆動再インデックスを扱いました。 第3弾の末尾で「次回はPrompt Injection対策を深掘りする」と予告していました。今回はその実装編です。 第3弾ではブロックリスト方式の入力検証(input_validation.py)を実装しましたが、同時に「これだけでは不十分」とも書きました。今回、実際にテストセットを用意...

この記事の続きは原文サイトでお読みいただけます。

原文を読む →