LLM開発中のAPI代爆発・デバッグ地獄を解決するローカルデバッグレイヤーをOSSとして公開した

はじめに 自分はプログラミング経験ゼロから、AIを使ったバイブコーディングでアプリ開発をしています。 最近、自分でLLMを使ったツールをいくつか作っていたのですが、開発中にこんなことが気になり始めました。 「同じプロンプトを何度も試すたびにAPI代がかかるのが地味につらい……」 対策を考えていると、「そもそもAPIとアプリの間に挟まってよしなにやってくれる層があればいいのでは？」と思いつきました。これはいわゆるミドルウェアという設計パターンです。 ミドルウェアを作るついでに、「せっかくならAPIとしても使えるようにしよう」「過去の出力結果に戻れる機能も入れよう」と膨らませていった...