Parse Guard：LLMアプリに読んだつもりをさせない入力検証パターン
Zenn / 2026/4/30
💬 オピニオンDeveloper Stack & InfrastructureTools & Practical Usage
要点
- LLMアプリに対して「読んだつもり（参照しているように振る舞う）」を誘発しないための入力検証・防御パターン「Parse Guard」を紹介している。
- 重要なのは、モデルの推論に任せるのではなく、入力や出力を所定の形式でパースできることを前提に処理を分岐して誤動作を抑える点にある。
- Parse Guardでは、期待する構造（例：JSON/スキーマ、区切り、必須フィールドなど）を満たさない入力を検知したときに安全側（エラー、リトライ、ユーザー再入力など）へ寄せる。
- LLM導入時の堅牢性（プロンプトインジェクションや曖昧入力による誤応答の抑制）を、アプリ側の検証設計として実装可能にする。
- 実装観点として、検証→パース→モデル投入（または結果処理）というパイプラインを明確化することで、誤認識の影響範囲を限定できる。
はじめに
LLM アプリケーションを作っていると、モデルの回答精度やプロンプト設計に目が行きがちです。
もちろんそれらは重要ですが、本番運用で地味に危ないのは、モデルが入力を十分に読めていないのに、読めた前提で次の処理へ進むことです。
たとえば、次のようなケースです。
添付ファイルを読む前に要約してしまう
RAG の検索結果が空なのに、知っている前提で回答する
一部のログしか読んでいないのに、障害原因を断定する
必須フィールドが欠けているのに、申請を処理する
ユーザーの発言を部分的にしか解析していないのに、次の action を生成する
これは、いわゆる hallucinatio...
この記事の続きは原文サイトでお読みいただけます。
原文を読む →
