約1か月前に64GBメモリのMacを買って、そこそこ速くて、コーディングがそれなりに得意で、システムを過負荷にしないモデルを見つけようとずっと試していました。私がやっているテストは、htmlとjsでdoomスタイルのレイキャスターを作らせることです
「Qwen 3 Coder Nextが最強だ」と聞いていましたが、良いものの、4bit版だと常にシステムがギリギリのところまで行ってしまいました。さらに、4bit版が原因だったのかは分かりませんが、いつもツールの使用を外してしまい、正しいパラメータを当てようとする推測のループにハマってしまっていました。doomのテストでは、たいていはうまくいってそこそこ良いものを作れましたが、しばらくの間、悪いツール呼び出しのループに詰まった後はうまくいきませんでした。
Qwen 3.5(約30bのmoe版)も、私の経験では、どれもうまくできませんでした。いつも考え続けるループにハマって、その後、自分に自信がなくなりすぎて、同じファイルを書き直しては終わらず、いつまでも完了しませんでした。
しかしGemma 4はそれを完全に粉砕しました。たった3つのプロンプトで動くものを作らせることができました。しかもとても速いです。考えることの制限もしていて、細部に迷いすぎたりもしませんでした。やるべきことをきちんとやっただけです。ローカルモデルを実行して「ちゃんとすごく上手くいった」と実際に驚いたのは初めてで、変なことも起きませんでした。
ローカルモデルの未来にワクワクしますし、2〜3年後には、世界のソネットたち(のような)に対抗できる、非常に高性能なローカルモデルが使えるようになっているとしても不思議ではないです。
[link] [comments]




