LLMが本来使うべきでないツールを呼び続けたので、ステートマシンで止めるようにした
Dev.to / 2026/6/11
💬 オピニオンDeveloper Stack & InfrastructureIdeas & Deep AnalysisTools & Practical Usage
要点
- 記事では、データベース上はすでに売り切れなのに、LLMが予約を「確定」してしまった実例が紹介されています。
- その背景として、プロンプトでの保護だけでは不十分で、問題の本質は制限対象のツールが誤った会話ステップの間にLLMのコンテキストへ入ってしまう点だと説明されています。
- 不正なツール呼び出しを防ぐために、会話の状態ごとに利用可能なツールを切り替える宣言的なステートマシンを提案・実装しています。
- zero-dependencyのTypeScriptライブラリreactive-fsmとして示されるこの手法により、ステートマシンが許可しない限りモデルはツールを呼べない設計になっています。
この記事の続きは原文サイトでお読みいただけます。
原文を読む →
