ハードな決断…Blackwell 96G と Mac Studio 256G どっちにする?

Reddit r/LocalLLaMA / 2026/4/24

💬 オピニオンDeveloper Stack & InfrastructureSignals & Early TrendsTools & Practical UsageIndustry & Market MovesModels & Research

要点

  • 投稿では、ローカルで大規模なAIモデルを動かすために、使用済みのNVIDIA RTX Pro 6000 Blackwell 96G と、新品のApple Mac Studio M3 Ultra(256GB)のどちらを買うべきか相談しています。
  • 著者の目的は「太い」モデル(Big GemmaやQwen系など)に加え、埋め込み・再ランキング・STT/TTS・Home Assistant向けの小型で高速なモデルのような、メモリを重視する複数用途の同時運用です。
  • Blackwellの強みはCUDAによるAI/エンコード処理の対応力だとしつつ、追加費用(高出力電源の用意が必要そう)や中古GPUゆえの故障リスクも挙げています。
  • 一方でMac Studioは新品でハードが安定しており、RAM面でも有利だという認識のため、上位プロセッサ/ GPU(コア数増加)の追加料金が投資に見合うかを検討しています。
  • 著者はAI専用のラック構成でSSHとIP KVM経由の運用を想定しており、普段はMacを使わないため、ハード選定と同時に実運用の観点も気にしています。

編集:OKOKOK。ずっとBlackwellで。MCでもNewEggでもどこでもいいから、新品で。自分の顔が扱える以上のトークン数が使えるやつね。みんなありがとう。Apple.comの購入ボタンを押しそうになってた。助かった。

だから今はワークステーションとmax-qの間。max-qなら新しい電源(ニーズ用)不要で、しかもお金が節約できる。あと、空気の流れ(エアフロー)もかなり良くなる。たぶんだけど、4090をそこに入れても問題なかった。

------------------------------------------------------------------------------------------------------------

で、俺は金を使いすぎてる。経済を助けるために俺を助けてくれ。

米ドルドル(US dollarydoo's)はこちら:

  • ebayのやつで中古のRTX Pro 6000 96Gカードが約10K(送料込み)。注意:10kが新品だとは知らなかった。15kくらいだと思ってた。
  • 新品のMac Studio M3 Ultra(256G)は、選ぶプロセッサ次第で6400か8K。(私の州までの発送価格)

でかいモデルを動かしたい。Big Gemma4sかQwen3.6s。それに、メモリに置いておく必要がある他の小さいモデルもある。埋め込み、再ランキング、TTS、STT、Home Assistant用の小さくて速いモデル、などなど。

俺はmacに詳しくない。俺にとってはLinuxとWindows。macには30年触ってない。もし買うなら、AI専用にして、SSHとIP KVMだけでアクセスできるラックに置くことになる。

PC側では、Blackwellカードは今のサーバーに入れることになる。さらに、新しい1000〜1200ワットの3.1電源も必要になるはず。用途は映像エンコードとAI専用。主な利点はCUDAで、CUDAに対応した他のこともできる点。

俺にとってはMacのほうがずっと良い選択に見える。RAMも多いし、新品だし。Blackwellは中古。もしMacが壊れたら10kが飛ぶ。

それと、Macを選ぶなら、アップグレードされたプロセッサ/GPUに1500クロース(clams)払うべき?
28/60 vs 32/80 のCPU/GPUコア。クロースを払うだけの十分な差が出る?

お願いします。ありがとう。

投稿者 /u/HyPyke
[リンク] [コメント]