ゲーミングPCでのLlama.cppとLM Studioの比較

こちらが私の経験です。Windows 11を使って、RTX 5080と64GB RAMでLM Studioを利用しています。速度以外はLM Studioにとても満足しています。Windows WSLをインストールしてLlama.cppをコンパイルしました。Gemma 4 26B Q8と、Llama.cppでQwen 3 Coder Next unsloth Q4をいじってみたところ、LM Studioと比べて2倍の速度が出ています。LM Studioでも同じ速度が提供されればよかったのですが、残念ながらそうではありません。