v1.82.6.rc.1

LiteLLM Releases / 2026/3/24

💬 オピニオンDeveloper Stack & InfrastructureTools & Practical Usage

要点

  • Anthropic のルーティングが更新され、リクエストを OpenAI Responses API に転送する際に `thinking.summary` フィールドを保持するように変更されました。
  • `/v1/messages` および推論ドキュメントが `thinking.summary` フィールドを含むように更新され、API と開発者向けの明確性が向上しました。
  • 画像トークンのアンダーカウントが使用量メタデータ上で修正され、Gemini の利用量計上が適切に行われるようになりました。
  • Anthropic は、既定の推論サマリー生成を無効化するためのオプトアウトフラグを追加し、関連する `translate_thinking_for_model` の挙動が新しい既定のサマリー注入およびドキュメントに合わせて調整されました。

変更点

  • fix(anthropic): OpenAI Responses API にルーティングする際に、思考の summary(thinking.summary)を保持するように @Chesars により #21441
  • docs: /v1/messages および reasoning のドキュメントに thinking.summary フィールドを追加 by @Chesars により #22823
  • fix(gemini): 使用量メタデータにおける画像トークンの過小カウントを解消 by @gustipardo により #22608
  • feat(anthropic): デフォルトの reasoning summary のためのオプトアウトフラグを追加 by @Chesars により #22904
  • fix(anthropic): translate_thinking_for_model をデフォルトの summary インジェクション + ドキュメントに合わせるように by @Chesars により #22909
  • fix: LLMClientCache のエビクション時に HTTP/SDK クライアントを閉じないようにする by @ishaan-jaff により #22926
  • [機能] UI - キー: 作成/編集用に Organization のドロップダウンを追加 by @yuneng-jiang により #23595
  • [テスト] UI - 未テストの 5 コンポーネントにユニットテストを追加 by @yuneng-jiang により #23607
  • [機能] UI - 内部ユーザー: チーム所属の追加/削除 by @yuneng-jiang により #23638
  • [機能] UI - デフォルトのチーム設定: ページをモダナイズし、デフォルト適用を修正 by @yuneng-jiang により #23614
  • [修正] タグ一覧エンドポイントの 500 エラーを、不正な Prisma の group_by kwargs により発生していたものとして修正 by @yuneng-jiang により #23606
  • [Feature] UI - 使用方法: @yuneng-jiang による #23622 での日次支出データのオートページネーション
  • [Infra] 内部のdevを3/13にmainにマージし、@yuneng-jiang による #23658
  • feat: SageMaker 上の Amazon Nova モデル向けに SageMaker の sagemaker_nova プロバイダーを追加 by @ryanh-ai in #21542
  • [Fix] 組織スコープフラグによる /user/filter/ui でのチーム管理者 403 を修正 by @yuneng-jiang in #23671
  • fix: プロキシのログ出力からシークレットをマスクする by @ryan-crabbe in #23668
  • fix: 既存インスタンスでの prisma migrate deploy の失敗を修正 by @krrishdholakia in #23655
  • [Fix] custom_httpx の test_http_handler におけるハングする CI テストを修正 by @yuneng-jiang in #23674
  • @codspeed-hq[bot] による CodSpeed の継続的パフォーマンス・ベンチマークを追加 #23676
  • [Infra] 内部の dev を main にマージする by @yuneng-jiang in #23654
  • Litellm の redaction フィルタのロギング v2 を修正 by @ryan-crabbe in #23667
  • [Fix] セキュリティのため PyJWT を ^2.12.0 にアップする by @yuneng-jiang in #23678
  • 根本原因の修正 - すべてのロギング更新を 1 関数を使うように移行 - kwarg の集中更新のため by @krrishdholakia in #23659
  • fix: db マイグレーション失敗を --enforce_prisma_migration_check によるオプトインで終了させる by @krrishdholakia in #23675
  • [Infra] CI パイプラインを最適化 by @yuneng-jiang in #23721
  • Fix: Vertex AI のバッチ出力ファイルのダウンロードが 500 で失敗する by @Sameerlite in #23718
  • docs(blog): WebRTC のブログ投稿リンクを追加 by @Sameerlite in #23547
  • リファクタリング: 変換後にベータヘッダーをフィルタリングする by @Sameerlite in #23715
  • fix(streaming): 最終ストリームチャンクにカスタム属性を保持する by @Sameerlite in #23530
  • [機能] 文字(キャラクター)作成のエンドポイントとその他の新しい動画エンドポイントを追加 by @Sameerlite in #23737
  • Litellm oss staging 03 14 2026 by @RheagalFire in #23686
  • fix: DefaultInternalUserParams の Pydantic デフォルトをランタイムのフォールバックに合わせる by @ryan-crabbe in #23666
  • [Test] UI ダッシュボード - 未テストの 5 ファイルに対するユニットテストを追加 by @yuneng-jiang in #23773
  • [Infra] RC ブランチをメインにマージする by @yuneng-jiang in #23786
  • [修正]/key/block、/key/unblock、および /key/update の max_budget における権限昇格を @yuneng-jiang#23781 で対応
  • chore(ui):Tremor から antd に DefaultUserSettings のボタンを移行 by @ryan-crabbe in #23787
  • fix:_execute_with_mcp_client で MCPServer を構築するときに oauth2_flow を設定 by @joereyna in #23468
  • [修正]UI - ログ:空のフィルター結果で古いデータが表示される問題を修正 by @yuneng-jiang in #23792
  • Litellm のブログ投稿の RSS を更新 by @ryan-crabbe in #23791
  • [修正]内部ユーザーが無効なキーを作成できないようにする by @yuneng-jiang in #23795
  • [修正]更新時にブロックされたレガシーエイリアスによって Key Alias の再バリデーションを行う by @yuneng-jiang in #23798
  • fix:DynamoAI ガードレール初期化子と列挙(enum)エントリを登録する by @Harshit28j in #23752
  • docs:v1.82.3 のリリースノートを追加 by @joereyna in #23816
  • 「docs:v1.82.3 のリリースノートを追加」を取り消し(Revert) by @krrishdholakia in #23817
  • fix(fireworks):base64 データ URL に対して #transform=inline をスキップ by @awais786 in #23729
  • fix(langsmith): 同期初期化中に実行中のイベントループがないようにすることで回避します。 @pandego#23727 で行いました
  • [Feature] UI設定によりカスタム仮想キー値を無効化することで無効化します。 @yuneng-jiang#23812 で行いました
  • fix(gemini): /v1/messages ルーティング用の tool_results で画像をサポートします。 @awais786#23724 で行いました
  • fix(ui): グローバル使用量ページでCSVエクスポートが空になる問題を修正します。 @ryan-crabbe#23819 で行いました
  • fix: model params による langfuse トレース漏えいキーを修正します。 @Harshit28j#22188 で行いました
  • [Infra] 個人用の開発ブランチを日次開発ブランチとマージします。 @yuneng-jiang#23826 で行いました
  • fix(model-prices): Vertex AI DeepSeek モデルの supported_regions を修正します。 @Chesars#23864 で行いました
  • fix(model-prices): gpt-4-0314 を復元します。 @Chesars#23753 で行いました
  • fix(cache): Redis クラスタのキャッシュを修正します。 @cohml#23480 で行いました
  • 「fix: model params 上で langfuse トレース漏えいキー」を取り消します。 @yuneng-jiang#23868 で行いました
  • [Infra] 日次の開発ブランチを main とマージします。 @yuneng-jiang#23827 で行いました
  • Litellm ryan march 16 by @ryan-crabbe#23822 で行いました
  • fix(proxy): 環境変数経由で設定したときに max_budget を float に変換する by @rstar327 in #23855
  • [Test] UI: 未テストのコンポーネント 10 個に対するユニットテストを追加する by @yuneng-jiang in #23891
  • Akto Guardrails を LiteLLM に追加する by @rzeta-10 in #23250
  • fix(core): Anthropic の 'refusal' の finish reason を 'content_filter' にマッピングする by @Chesars in #23899
  • fix(vertex): gemini-3.1-flash-lite-preview で streaming の finish_reason='tool_calls' の代わりに 'stop' にする by @Chesars in #23895
  • [Fix] contents:write 権限を ghcr_deploy の release job に追加する by @yuneng-jiang in #23917
  • [Infra] bump: バージョン 1.82.3 → 1.82.4 by @yuneng-jiang in #23919
  • docs(mcp_zero_trust): MCP zero trust の認証ガイドを追加する by @ishaan-jaff in #23918
  • バックグラウンドのストリーミングで不完全な terminal エラーをキャプチャする by @xianzongxie-stripe in #23881
  • fix: cache_control ディレクティブが anthropic のドキュメント/ファイルブロックをドロップしてしまう by @kelvin-tran in #23911
  • [Infra] Nightly 用の Security と Proxy Extras by @yuneng-jiang in #23921
  • fix: Responses APIのinput_fileにChat Completionファイルタイプをマッピングするように @gambletan#23618 で対応
  • fix(vertex): Claudeのcount_tokensでvertex_count_tokens_locationを尊重するように @Chesars#23907 で対応
  • fix(anthropic): ファイルタイプのコンテンツブロックにキャッシュ指示を保持するように @Chesars#23906 で対応
  • fix(mistral): 音声書き起こしレスポンスでダイアライゼーションのセグメントを保持するように @Chesars#23925 で対応
  • fix(gemini): カスタムのapi_baseに対して、モデルをコンテキストキャッシュURLビルダーに渡すように @Chesars#23928 で対応
  • fix(azure): gpt-5.4+のtools+reasoningをResponses APIに自動ルーティングするように @Chesars#23926 で対応
  • fix: 閉じられたときに共有aiohttpセッションを自動的に復旧するように @voidborne-d#23808 で対応
  • [Feature] /v2/team/list: org管理者のアクセス制御、members_count、indexを追加するように @yuneng-jiang#23938 で対応
  • [Refactor] UI - Playground: ChatUIからFilePreviewCardを切り出すように @yuneng-jiang#23973 で対応
  • docs: v1.82.3のリリースノートを追加するように @joereyna#23820 で対応
  • fix(proxy): 非ストリーミングのpost_callではモデルレベルのガードレールが実行されない問題を修正する @michelligabriele#23774 で対応
  • fix(proxy): パススルー・エンドポイントの失敗時にコールバックのログが重複しないようにする(重複ログを防止) @michelligabriele#23509
  • docs: 新しいナビゲーション、ランディングページ、スタイリングを用いてドキュメントサイトを刷新する @Arindam200#24023
  • langfuse の otel traceparent の伝播を修正する @jyeros#24048
  • [Test] UI: 未テストのコンポーネント10個に対するユニットテストを追加する @yuneng-jiang#24036
  • [Fix] UI - Logs: ガードレールモードのクラッシュを(文字列以外の値で)防ぐ @yuneng-jiang#24035
  • [Staging] - Ishaan March 17th @ishaan-jaff#23903
  • [Infra] 毎日ブランチを main にマージする @yuneng-jiang#24055
  • [Fix] UI - デフォルトチーム設定: отсутствする権限オプションを追加する @yuneng-jiang#24039
  • fix: /key/block および /key/unblock は存在しないキーに対して 404(401 ではない)を返す @yuneng-jiang#23977
  • [Refactor] UI - Playground: ChatUI から ChatMessageBubble を切り出す @yuneng-jiang#24062
  • [Fix] キー更新エンドポイントが、存在しないキーに対して 404 の代わりに 401 を返してしまう問題を修正する @yuneng-jiang#24063
  • fix: Responses APIでAnthropicのコード実行結果を code_interpreter_call として反映 by @andrzej-pomirski-yohana in #23784
  • [Feature] UI - Leftnav: 学習リソースに外部リンクのアイコンを追加 by @yuneng-jiang in #24069
  • Fix thinking blocks dropped when thinking field is null by @xr843 in #24070
  • 一般APIログにおいて router の model_group を保持 by @emerzon in #24044
  • Fix/proxy のみの失敗時の呼び出しタイプ by @alilxxey in #24050
  • fix(langsmith): コスト列の出力に usage_metadata を設定 by @themavik in #24043
  • モデルの反復検出のパフォーマンスを改善 by @hytromo in #18120
  • fix: レスポンスの不完全なストリーミングと /v1/messages および /v1/responses でのカスタム価格設定のためのログを修正 by @krrishdholakia in #24080
  • docs: Guardrail Providers サイドバーに Guardrails セクションへ Contributing を追加 by @krrishdholakia in #24083
  • chore: CIのブロックを解除するため poetry.lock を再生成(pyproject.toml の content hash ドリフト) by @joereyna in #24082
  • fix(openai): MiniMax のストリーミングチャンクで 'id' フィールドが欠落している場合に対応 by @chengyongru in #23931
  • merge main by @Sameerlite in #24119
  • Ishaan - 3月18日の変更 by @ishaan-jaff in #24056
  • [Test] UI: 未テストのコンポーネント10個に vitest のカバレッジを追加 by @yuneng-jiang in #24144
  • chore: lint CI を修正するために black のフォーマットを適用 by @joereyna in #24092
  • feat(proxy): proxy --api_version のデフォルトに AZURE_DEFAULT_API_VERSION を使用 by @Sameerlite in #24120
  • chore: lint CI を修正するために black のフォーマットを適用(batch 2) by @joereyna in #24153
  • [Refactor] UI - API Reference: パスベースのルーティングへ移行 by @yuneng-jiang in #24155
  • chore: 古いロックファイルのマージを防ぐために lint CI に poetry check --lock を追加 by @joereyna in #24159
  • [Infra] daily の内部ブランチを main にマージ by @yuneng-jiang in #24150
  • chore: lint CI を修正するために proxy/_types.py に black のフォーマットを適用 by @joereyna in #24167
  • docs: LiteLLM ライセンスキーの環境変数の手順を追加 by @krrishdholakia in #24168
  • fix(proxy): post-call のガードレールが完了するまでログ出力を遅延する by @michelligabriele in #24135
  • Litellm oss staging 03 18 2026 を @krrishdholakia#24081 で実施
  • 移行におけるインデックス作成に IF NOT EXISTS を追加 by @superpoussin22 in #24105
  • fix(proxy): 切断に失敗した場合に、未解放(孤立)した prisma engine のサブプロセスを終了 by @michelligabriele in #24149
  • chore: lint の CI 修正のために black 形式を適用(batch 3)by @joereyna in #24173
  • docs(release-notes): PR の完全な監査を行って v1.82.3 の変更履歴(changelog)を完了 by @joereyna in #24090
  • fix: github_copilot プロバイダーの websearch をショートサーキットする by @johnib in #24143
  • feat(anthropic): 環境変数 ANTHROPIC_AUTH_TOKEN と ANTHROPIC_BASE_URL をサポート by @devin-petersohn in #24140
  • chore: black 形式を適用し、black の pre-commit フックを有効化 by @joereyna in #24187
  • main 0319 をマージ by @Sameerlite in #24188
  • fix: mcp を 1.26.0 にアップグレードし、バージョンを 1.82.5 に更新 by @joereyna in #24179
  • fix: OVHCloud の get_supported_openai_params における再帰(recursion)を解決 by @themavik in #24118
  • [Fix] UI: AntD の Messages が表示されない問題を修正 by @yuneng-jiang in #24192
  • [機能] UI - Teams: @yuneng-jiang#24189 にて Teams テーブルをモダナイズ
  • [リファクタリング] ChatUI.tsx から useChatHistory フックを抽出 by @yuneng-jiang in #24172
  • feat: プロキシ全体のデフォルト API キーの tpm/rpm 制限を追加 by @ephrimstanley in #24088
  • Day 0: gpt 5.4 mini および nano のサポート by @Sameerlite in #23958
  • [feat] responses API 向けのプロンプト管理サポートを追加 by @Sameerlite in #23999
  • docs(vertex): PayGo/Priority のチュートリアルとコスト追跡フロー図を追加Litellm vertex paygo チュートリアル by @Sameerlite in #24009
  • feat(file_search): エミュレートされた Responses の挙動をネイティブ出力に合わせる by @Sameerlite in #23969
  • fix(proxy): 非管理ユーザー向けに subpath の認証をパススルーする by @Sameerlite in #24079
  • fix(polling): ポーリング ID を作成する前にレート制限を確認する by @Sameerlite in #24106
  • docs: 暗号化された_content_affinity の最小バージョンを注記 by @milan-berri in #23854
  • feat(router): モデルグループごとのデプロイメント親和性を追加 by @Sameerlite in #24110
  • Litellm fix 交互のロールを確実にする:@Sameerlite#24015 で対応
  • fix(bedrock):count_tokens エンドポイントにおいて api_base と aws_bedrock_runtime_endpoint を尊重するようにする:@stias#24199 で対応
  • fix(gemini-embeddings):Gemini API 用に task_type を camelCase の taskType に変換する:@christopherbaer#24191 で対応
  • fix(vertex-ai):Vertex API によるバッチキャンセルをサポートする:@Sameerlite#23957 で対応
  • fix(azure-ai-agents):Bing Search の grounding レスポンスにおける注釈(annotations)を保持する:@Sameerlite#23939 で対応
  • fix(logging):ストリーミングリクエストに対して hidden_params を metadata にマージする:@milan-berri#24220 で対応
  • docs(pricing):Azure DeepSeek & Cohere の公式ソースリンクを追加 …:@Jayachander123#20181 で対応
  • fix(transcription):音声文字起こしモデルに対する cost_per_second の計算を修正する:@gvioss#23842 で対応
  • fix(moonshot):マルチターンのツール呼び出しにおいて Pydantic の Message オブジェクト上で reasoning_content を保持する:@BillionClaw#23828 で対応
  • fix(proxy):NewTeamRequest に team_member_budget_duration を追加する:@michelligabriele#23484 で対応
  • [Feature] Team MCP Server Manager Role を追加 by @yuneng-jiang#24171 で対応
  • [Docs] new_team の docstring に team_member_budget_duration パラメータが欠落している問題を @yuneng-jiang によって #24243 で追加
  • feat: マルチプロキシのワーカ管理のためのコントロールプレーンを追加 by @ryan-crabbe in #24217
  • "[Feature] Team MCP Server Manager Role" を元に戻す by