読了時間 2分

ブログ

製品

Mistral Batch API

この記事を共有する

これならツイートになっていたかもしれませんが…… ここ数週間、AI開発者コミュニティは複数回のAPI価格改定に直面してきました。それでも、最前線のAIを手頃な価格で提供し続けられるようにしたいと考えています。そこで本日、 La Plateforme で利用可能なバッチAPIを導入します。

バッチAPIは、同期API呼び出しと比べてコストを50%低く抑えながら、Mistralモデルへの大量リクエストをより効率的に処理する方法を提供します。同期的な応答よりもデータの量を優先するAIアプリケーションを構築している場合、バッチAPIは理想的な解決策になり得ます。バッチファイルをアップロードするだけで、リクエストが処理された後に、出力ファイルをダウンロードして利用できます。詳細な手順については、 バッチAPIのドキュメント をご覧ください。

バッチAPIの代表的な用途には、顧客フィードバックやセンチメント分析、大量のドキュメント要約・翻訳、検索インデックスを準備するためのベクトル埋め込み、そしてデータラベリングなどがあります。

バッチAPIは、La Plateforme上で提供されるすべてのモデルで利用可能であり、また近日中にクラウド提供パートナーでも利用できるようになります。使用量は、ワークスペースあたり進行中のリクエストが最大100万件までに制限されています。

ぜひご意見をお聞かせください。また、カスタムまたはプライベートのデプロイについては、 お問い合わせ ください。