https://github.com/ggml-org/llama.cpp/pull/22196
そして、どういうわけかすでにそれ用のいくつかのGGUFを入手できていました!
https://huggingface.co/CISCai/gemma-4-31B-it-NVFP4-turbo-GGUF
https://huggingface.co/stevelikesrhino/gemma-4-31B-it-nvfp4-GGUF
(以下のものはPRの作者自身によるものです)
https://huggingface.co/michaelw9999/Nemotron-Cascade-2-30B-A3B-NVFP4-GGUF
[リンク] [コメント]




