推論と関数呼び出しのために調整された Qwen3.5-9B GGUF、現在 Hugging Face に公開中

思考データと FunctionGemma 関連の関数呼び出しデータの混合でファインチューニングしたQwen3.5-9B GGUFをアップロードしたばかりで、それを llama.cpp/GGUF ランタイム用に変換しました。

まだQwenファミリーモデルですが、チューニングにより構造化された応答、ツール使用型の挙動、行動指向のプロンプトへとより傾斜しています。

llama.cpp、LM Studio、Ollamaなどのローカルモデルを実行している場合、そのパフォーマンスがどのようになるかを知りたいです：

• 一般的なチャット
• 推論タスク
• 構造化された出力
• 関数呼び出しスタイルのプロンプト

Repo link: Huggingface