広告

これ見た? MMLU-Rが65.7の1-bitモデル、8Bパラメータ

Reddit r/LocalLLaMA / 2026/4/1

💬 オピニオンSignals & Early TrendsModels & Research

要点

  • Hugging Faceで、prism-ml/Bonsai-8B-ggufという1-bit量子化モデルが共有されており、MMLU-Rスコア65.7、8Bパラメータだという主張がなされている。
  • 投稿では、他の人にモデルのテストを呼びかけており、コミュニティによる検証や実環境での評価はまだ確立されていないことを示唆している。
  • 議論は驚き、または注目すべき結果として組み立てられており、極端な量子化をどこまで性能が崩れずに進められるかへの関心がうかがえる。
  • 現時点での主な示唆は、コンパクトなモデルの実運用展開の可能性に関する初期シグナルであり、独立したベンチマークの必要性があること。

これはナッツです。

prism-ml/Bonsai-8B-gguf · Hugging Face

これ、誰か試した人いますか?

提出者: /u/OmarBessa
[リンク] [コメント]

広告