LiteLLM × Langfuse を安く安定して動かす構成(VPS + Cloudflare)

Zenn / 4/2/2026

💬 OpinionDeveloper Stack & InfrastructureTools & Practical Usage

Key Points

  • LiteLLMとLangfuseをVPS上で安く運用しつつ、レイテンシや安定性を確保するための具体的な構成方針を提示している。
  • Cloudflareを組み合わせることで、アクセス制御やトラフィックの扱いを改善し、コストを抑えながら実運用に耐える挙動を狙っている。
  • 単体構成ではなく「VPS +(前段に)Cloudflare + LiteLLM + Langfuse」という連携前提で、運用コストとサービス品質のバランスを取る点が焦点。
  • ツール導入後に発生しがちな安定稼働の課題(HTTP/プロキシ周り等)を、構成で吸収する考え方が示されている。
はじめに LLM アプリを運用し始めると、プロンプトの管理やコスト計算、トレースの仕組みがすぐに欲しくなります。LiteLLM と Langfuse の組み合わせはそのあたりをうまくカバーしてくれるのですが、Langfuse v3 から ClickHouse が必須になったことで、セルフホストのハードルが一気に上がりました。メモリ不足(OOM)で落ちる、再起動を繰り返す——そんな運用地獄に片足を突っ込んだ末にたどり着いた構成をまとめます。 方針はシンプルで、「まともに動いて、かつ安い」 ことだけを優先しています。 結論:推奨構成(月額 ¥3,000〜6,000) コンポーネ...

Continue reading this article on the original site.

Read original →