ローカルのAI環境は、これからまったく別の2つのコミュニティに分かれていくように感じています。
片方は、実際のプロダクションのワークフローを気にしています:
- エージェント
- 自動化
- API
- 推論の効率
- データの品質
- 再現性
もう片方は、主にPCの改造(modding)のように捉えています:
- モデルの収集
- ベンチマークのスクリーンショット
- 「俺がどれだけのパラメータを動かしてるか見てくれ」
- 終わりのないUIの調整
- 延々と同じテスト用プロンプトを生成する
どちらの側も、正直に言ってジャッジしたいわけではありません。単に、最近オンラインでのAIの議論がやけに不思議に感じる理由を説明している気がするだけです。2人とも「ローカルAIにハマっている」ことはありえますが、もう同じものについてほとんど話せていないことが起こりえます。
[リンク] [コメント]