DeepSeek V3.2で実行時量子化（runtime quant）を行ってくれる製品を検討しています。量子化なしと比べて品質の低下を測りたいです。どのようなベンチマークを実行できますか？
[link] [comments]
DeepSeek V3.2で量子化レベル別に実行時量子化した際の品質ベンチマークを知りたい
Reddit r/MachineLearning / 2026/4/22
💬 オピニオンTools & Practical UsageModels & Research
要点
- この投稿では、DeepSeek V3.2で実行時量子化を行う際に、量子化レベルごとの品質劣化を測るためにどんな評価ベンチマークを使うべきかを尋ねています。
- 目的は、各量子化レベルの出力を量子化なしのベースラインと比較し、品質劣化を定量化することです。
- 量子化の実装方法ではなく、適切なベンチマークスイートの選び方といった実務的な助言に関心が寄せられています。
によって投稿 /u/Chachachaudhary123
[link] [comments]
