熱心な人にとって、このカードについて人々はどう考えていますか？ 48GB。コンテキスト付きで qwen 27B q8 を収められます。まだ高価なのは分かっています。ですが、48GBは良さそうです。次の上位は、価格がほぼ倍になります。$4500 対 $9000。
私はこれをファインチューニングと推論に使うつもりです。
2基の 5090 を使って分けるよりも、RAMを1枚のカードにまとめておくという考え方が気に入っています。
また—人々は本当に RTX6000 を ~7K で手に入れているんですか？
[リンク] [コメント]
