LLMエージェントのルールをAPI層で強制するオープンソースプロキシを開発（GitHubで700スター）

Reddit r/artificial / 2026/4/26

📰 ニュースDeveloper Stack & InfrastructureSignals & Early TrendsTools & Practical UsageModels & Research

共有:

要点

この投稿では、LLMエージェントのプロンプト依存のガードレールは信頼性に欠け、特にコンテキストが大きくなったり複数ステップのチェーンを行ったりするとルールが無視されやすいと主張しています。
「Caliber」と呼ばれるオープンソースのプロキシが紹介されており、ルールをプレーンなMarkdownから読み取り、プロンプトではなくAPI層で毎回の呼び出しを強制します。
投稿者は、GitHubで700スター、ほぼ100フォークという早期のコミュニティの反応の大きさを報告しています。
このプロジェクトは、AIエージェントを作っている人からのフィードバック、機能要望、貢献を歓迎しています。
要するに、安全性・統制ロジックを外部の強制レイヤーに移し、より一貫した運用を目指すのが中心の考え方です。

ここにクロスポストします。なぜなら、この問題はAIエージェントで構築しているすべての人に影響するからです。

プロンプトベースのガードレールは失敗します。デモではモデルがあなたのシステムプロンプトに従うのに、その後、コンテキストが大きくなったり、エージェントが複数ステップを連鎖させたりすると、ルールを無視してしまいます。

私たちは Caliber を作りました。これはオープンソースのプロキシで、プレーンなマークダウンからルールを読み取り、プロンプト内ではなくAPIレイヤーで強制します。あらゆる呼び出しに対して。プロバイダー非依存です。

GitHubでスター700個 ⭐ とほぼ100件のフォークを獲得しました。AIで構築している開発者からの反応は素晴らしいものでした。

ぜひ:

- このアプローチへのフィードバック

- AIエージェントを作っている人たちからの機能要望

- このプロジェクトに貢献したい人なら誰でも

コミュニティのために、このオープンソースを作っています。