LLMは確認指示を無視する - 120ツール入りMCP-firstフォームサービスで安全設計を強制した話

Zenn / 4/6/2026

💬 OpinionDeveloper Stack & InfrastructureIdeas & Deep AnalysisTools & Practical Usage

共有:

Key Points

LLMは「確認指示」を無視しがちで、フォーム入力のような手順・整合性が重要な領域では安全設計がボトルネックになり得る点を示している
MCP-firstのフォームサービスを120ツール構成で設計することで、指示無視の影響を抑える“安全を強制する”アーキテクチャを実現したと説明している
ツール呼び出しや外部連携を前提にした運用で、LLMの挙動に依存しすぎない設計パターンが有効であることを示唆する
安全性を設計段階で担保する発想（プロンプト頼みではなく、システム制約として実装する）を実例ベースで共有している

私は FORMLOVA というフォームサービスを作っています。MCP サーバーが主要なインターフェースで、現在私の知る限り世界最大数の120個のツールを24カテゴリに分けて、フォーム作成から回答分析、メール配信までをチャットで動かせます。4ヶ月かけてシナリオテストを回しながら積み上げた規模です。この記事では、その設計の内側を書きます。何を作ったかではなく、なぜそう設計したか、何を試して何が駄目だったか。前提: 会話を制御面にするとは MCP-first という言葉を聞くと「MCPサーバーを公開しています」に聞こえるかもしれません。私が意味しているのはそこではありません。会話を補...

Continue reading this article on the original site.

Read original →