皆さん、こんにちは、
128GBの統合RAMを搭載し、そのRAMの大半をGPUに割り当てられるFramework AI Max+ AMD 395 Strixシステムです。
LMStudioを使おうとしていますが、全く動作せず、私の操作ミスのように感じます。問題は二つあります。まず、すべてのモデルがRAMにロードされているようです。たとえば、70GBのQwen3モデルはRAMにロードされ、それからGPUへロードしようとしますが、失敗します。チャットに何か入力すると、動作しません。GPUをllama.cppとして設定しているにもかかわらず、モデルをRAMへロードするのを止めることができません。
LMStudioの最新バージョンと、LMStudioに同梱されている最新のllama.cpp mainブランチを使用しています。モデルのGPU最大レイヤー数も設定しました。BIOSで96GBのVRAMを設定しましたが、同時に自動設定にもしています。
何も動作しません。
ここで私が見落としている点や、参考になるチュートリアルなどがあれば教えてください。
ありがとうございます!
[リンク] [コメント]