すべてのGGUFが壊れてしまい、その結果、特に長いコンテキストでは不良な出力になっていました。
とにかく、今は修正されています: https://huggingface.co/unsloth/Mistral-Medium-3.5-128B-GGUF/discussions/1
編集:Unslothのお知らせ: https://huggingface.co/unsloth/Mistral-Medium-3.5-128B-GGUF/discussions/5
編集2:私の経験では、短いコンテキストでもかなり安定しています。以前はプロンプトの形式を間違えてしまい、すぐにめちゃくちゃな内容(判じ物のような文字列)へと崩れていきました。しかし更新版はそれほど気にしません。
[link] [comments]




