私は、LLM PythonライブラリとCLIツールに対する大きな変更に取り組んでいます。LLMはプラグインシステムのおかげで、数十の異なるベンダーから提供される何百もの異なるLLMに対する抽象化レイヤーを提供します。そして、そのようなベンダーのいくつかは、この1年の間に新しい機能を増やしており、LLMの抽象化レイヤーでは対応しきれないものがあります。たとえば、サーバー側でのツール実行などです。

その新しい抽象化レイヤーを設計するのを助けるために、Claude Codeに、Anthropic、OpenAI、Gemini、MistralのPythonクライアントライブラリを読み通させ、それらを使って、さまざまなシナリオにおいてストリーミング／非ストリーミングの両方のモードで、生のJSONにアクセスするためのcurlコマンドを作るのに役立てました。スクリプトと、取得した出力の両方が、現在はこの新しいリポジトリに置かれています。