DGX Sparkで色々なローカルLLMを動かした比較結果
Zenn / 2026/3/22
💬 オピニオンDeveloper Stack & InfrastructureTools & Practical UsageModels & Research
要点
- DGX Spark 上で複数のローカルLLMを同時に動作させ、比較検証の結果を公開している。
- 推論スループット、メモリ使用量、レイテンシ、初期化時間などの指標を横断的に比較し、実運用での適性を示唆している。
- それぞれのLLMが想定されるユースケース（チャット、要約、コード補完など）に対してどの程度適しているかの結論と設定の要点を解説している。
- DGX Sparkのワークフロー・運用面の利点と課題を整理し、導入時の意思決定に役立つポイントを提示している。
- 今後の最適化ポイントや実務での導入判断に直結する実務的な洞察を提供している。
NVIDIA DGX Spark（GB10、ARM64、128GB統合メモリ）でローカルLLMを動かす方法を、推論エンジン別（Ollama / vLLM / SGLang）に解説します。
「どのモデル × どのエンジンを選べばいいの？」という疑問に答えるため、手軽さ・賢さ（ツールコール精度）・速度・メモリ使用量の4軸で整理しました。
この記事は実際にDGX Sparkで動作確認した手順をまとめたものです。動作確認できなかった方法も参考として記載しています。
!
この記事は、あくまで自分の環境での少数試行での結果です。条件など完全に揃えられてない点もありますので、正確なベンチマークというよ...
この記事の続きは原文サイトでお読みいただけます。
原文を読む →
