このサブでは、DGX Sparks に対する軽蔑がかなりあります。わかります。多くの人が「メモリ帯域がもっと良ければ最高だったのに」「SM-121は偽物／二流のBlackwellチップ」みたいなことを言っていて、まあ、いろいろですね。これらの批判は妥当です。
それでも私は1台買いました。私はAIの修士課程を目指していて、学習モデルのトレーニング、ツール開発、テストなどに使いたかったからです。
私は初期導入者で、他の多くの人と同様、最初は推論性能とソフトウェアスタックにがっかりしました。ですが最近、私の意見と経験は変わりました。
NVIDIAには「公式」のDGX Spark開発者向けコミュニティフォーラムがあり、盛り上がっています。DGXフォーラムのコミュニティの人たちは、私が出会った中でも特に親切で、頭がよくて、粘り強い開発者の集まりです。こいつらには共通の目標が1つあります。このハードウェアから最後の一滴まで性能を絞り出して、自分たちにとっても世界にとっても、Sparkを買ったのは悪い判断じゃなかったと証明することです。これはちょっと皮肉っぽく聞こえるかもしれませんが、私は悪い目標ではないと思っています。
フォーラムの空気感は「よし兄弟たち、みんなこれ買ったんだし、r/LocalLLamaの連中は今頃こっちのこと笑ってるだろ。やってやろうぜ、俺たちにできることを見せつけてやれ」みたいな感じです。まあ実際には誰もそんなふうには言わないでしょう。だってみんな本当に親切で助けになってくれる人たちだから。でも、投稿を読んでいると、その空気感が伝わってきます。そこにいる全員が同じ目標を持っています。DGX Sparkを、可能な限り最高のところまで徹底的に最適化すること。こんなに調和の取れた雰囲気を見られるのは驚きです。誰もあまり議論しない、トロールしない、怒り煽りで釣らない、そういうのがありません。同じ船に乗っていて、協力して互いに背中を押し合い、ベンチマークを共有し、コードやvLLMのレシピなどを出し合っています。2年くらい前にこのサブが、ボット投稿で埋め尽くされる前の雰囲気を思い出します。
DGX開発者コミュニティについて、信じられないなら自分で確かめてみてください：
https://forums.developer.nvidia.com/c/accelerated-computing/dgx-spark-gb10
Sparkrun（http://sparkrun.dev）、PrismaQuant、Spark Lesderboard、eugr vLLM、それにこの人たちが取り組んでいる他の素晴らしいプロジェクトなど、いくつかの面白い取り組みも見てみてください。
これらの開発者にとってDGXハードウェアの大きな利点は、HWとOSが全員まったく同じであるという事実です。自分のやり方が、世の中にある他のSparkの筐体すべてで確実に動くとわかります。そして、それは共通の目標を持つ統一されたコミュニティにとって、とても強力です。
つまり、DGX Sparkはもっと良くなり得たし、おそらく設計によって制限されていた面もあります。でも、それはDGX Sparkフォーラムのコミュニティを止めません。こいつらは、反対派の全員に対してやり返すために、意志の力と才能で、これを成功させるつもりです。私の二意見です。賛成？それとも反対？
[link] [comments]
