LLMで“見える運用”へ――可観測性を強化する実務メモ（OpenTelemetry GenAI / Langfuse / Phoenix)
Zenn / 2026/3/29
💬 オピニオンDeveloper Stack & InfrastructureTools & Practical Usage
要点
- LLM/生成AIの運用で「見える運用」を実現するために、可観測性（observability）を実務として強化する考え方と進め方を整理している。
- OpenTelemetry GenAIなどの計測基盤を活用し、プロンプトや推論、応答などの処理フローをトレース/計測できる形に落とし込む方向性が示される。
- LangfuseやPhoenixといったツールを組み合わせ、LLMアプリの挙動（品質・遅延・エラー・コスト等）を可視化して改善サイクルにつなげる実装方針が述べられている。
- 現場で運用に耐えるための「どこを計測し、どう見て、どうアクションするか」という観点が中心になっている。
はじめに――“当てる”より“見える”
生成AIをプロダクションに載せると、正しさだけでなくコスト・遅延・再現性・説明が問われます。そこで効くのが可観測性（Observability）。いまはLLMそのものもLLMを使った運用も、両輪で強化できます。標準化は進み、OpenTelemetryのGenerative AIセマンティック規約と対応ライブラリが揃い始めました。(OpenTelemetry)
1. まず“何を観測するか”を決める（3信号×5項目）
3信号（トレース／メトリクス／イベント）に、最低限の5項目を紐づけます。
リクエスト単位のトレース：モデル名・バージョン、入...
この記事の続きは原文サイトでお読みいただけます。
原文を読む →
