128 GB の VRAM を搭載した 395+ のアイデアは良いと思いますが、より大きいモデルで推論する際の速度を考えると、正直それほど価値があるようには思えません。もしより大きいモデルの能力が必要になった場合は、クラウドの LM を使えば済むのではないでしょうか。
一方で、デュアルの 3090s なら、速度も十分にあり、かなりのサイズのモデルを手に入れられるので、エージェンティックなワークフローのような用途にははるかに向いています。
みなさんはどう思いますか？
[リンク] [コメント]
AI MAX 395+ は 128 GB か、デュアル 3090 か？
Reddit r/LocalLLaMA / 2026/4/13
💬 オピニオンIdeas & Deep AnalysisTools & Practical Usage
要点
- 128 GB の VRAM を搭載した AI MAX 395+ 構成と、NVIDIA 3090 をデュアルで使う構成を比較し、単にモデルの最大サイズだけでなく実際の推論速度に焦点を当てて検討している。
- 著者は、より大きなコンテキストや大規模モデルの能力が必要な場合、ピーク需要が頻繁ではないためにローカルの高価なハードウェアを買うよりも、クラウドでホストされた LLM を利用する方が効率的だと主張している。
- デュアル 3090 については、特にエージェント型のワークフローといったリアルタイム用途において、実運用でのスピード対コスト（性能）に優れたトレードオフを提供するとしている。
- スレッドでは他のユーザーに意見を求めており、明確なコンセンサスはないこと、そして判断はワークロードの傾向やレイテンシ要件に左右される可能性が高いことを示唆している。
投稿日者 /u/Engineering_Acq
[リンク] [コメント]
