 | If you’ve ever wanted to run big models on cheap hardware look no further. I bought a retired home lab pc yesterday (dell precision 7820) dual intel xeons 128gbs ddr4. Threw in my 3060ti and believe it or not it runs. Almost entirely on cpu power and at 2/tks but it’ll do it. [link] [comments] |
Llama4 108b $800 setup
Reddit r/LocalLLaMA / 4/13/2026
💬 OpinionSignals & Early TrendsTools & Practical Usage
Key Points
- Reddit投稿者がDell Precision 7820（デュアルXeon、メモリ128GB）にGeForce 3060 Tiを追加し、Llama4 108Bを低コストでローカル実行できたと報告しています。
- 同投稿では、処理の多くをCPU側で賄い、速度はおおむね2 tokens/sec程度ながら動作することが示されています。
- 価格としては「$800程度のセットアップ」としており、大型モデルを手元の比較的安価な機材で動かす現実味を伝える内容です。
