Unsloth、Mistral Medium 3.5実装の不具合を解決

Reddit r/LocalLLaMA / 2026/5/2

📰 ニュースDeveloper Stack & InfrastructureTools & Practical UsageModels & Research

共有:

要点

Unslothは「Mistral Medium 3.5」の推論で一部の実装に影響していた不具合をMistralと協力して修正し、修正版GGUFを公開しました。
不具合の原因はYaRNのパース挙動に関するクセで、transformersやllama.cppを含む複数の実装に影響していたとされています。
対処として、パラメータのmscale_all_dimを1から0に変更することで問題が解消されると説明されています。
さらに、mmprojファイルが正しく生成されない問題もあわせて修正されました。

https://unsloth.ai/docs/models/mistral-3.5

"2026年5月1日更新：私たちはMistralと協力して、Mistral Medium 3.5の推論が一部の実装に影響していた問題を修正し、修正を反映した更新済みGGUFをリリースしました（Unslothや当社の量子化に関連するものではありません）。この問題は、複数の実装（transformersやllama.cppを含む）に影響するYaRNのパース上の癖によって引き起こされました。mscale_all_dimを1から0に変更することで解決しました。さらに、mmprojファイルが正しく生成されない問題も修正しました。"

投稿者： /u/Snail_Inference
[リンク] [コメント]