オープンコードであれ、VS code copilot の拡張機能であれ、あるいは何であれ「オープンソース」のAIツールであれ、私は llama.cpp が第一級の提供元として扱われているのをめったに見かけませんか?それらのどれもが ollama であり、時には LMStudio です。エンジニアリング的には、llama.cpp を ollama と同じようにリストに載せるための努力は文字通り 0 です。あるいはもっと言えば、単にラベルに依存しない形で openai API と互換なエンドポイントを用意して、私にポート番号/エンドポイントを入力させてください。特に腹立たしいのは、ollama は llama.cpp から盗んでいる卑劣な裏切り者で、それでも OSS エコシステムの良いメンバーではないのが明白なまさにその一方で、認知(マインドシェア)をまだ確保している点です。llama.cpp は今では平均的な開発者(現在のユーザーベースの大半)にとって非常に使いやすく、平均的な人にとってもかなり十分に使えます。
この投稿が、これらのツールを作っている開発者に届いてほしいと強く願っています..
[リンク] [コメント]



