画質の面では35Bのほうがずっと良い結果が出ていて、27Bよりもかなり高速です。ただ気になっているのは、27Bについて投稿している人がたくさんいるのを見かけることです。自分は27Bで何か間違ったことをしているのでしょうか?
用途は、コーディングとインターネット調査のためのマルチステージのパイプラインです。Opencodeも少し使っています。私が通常Opusに適用して試した用途は、よりシンプルなプロンプトやマルチステップのワークフローも含めて、どれも同様です。35Bは常に同等かそれ以上の性能を発揮し、しかもはるかに速いようです。
編集:
35Bはnvfp4の量子化、またはときどきfp8で、27Bはfp8またはnvfp4の量子化です。
編集2:
私は2つの環境があります。
家庭用のセットアップ:Mac studio M4 Max、128Gb RAM。仕事用のMac:M5 ~~ultra~~ max 48Gb ram。
[link] [comments]


![[はじめてのnote]人間はAIにどこまで任せられるのか。](/_next/image?url=https%3A%2F%2Fassets.st-note.com%2Fproduction%2Fuploads%2Fimages%2F272323116%2Frectangle_large_type_2_cdc23772da0af48754759e5922c4bfc5.png%3Fwidth%3D219%26dpr%3D2%26frame%3D1%26format%3Djpg&w=3840&q=75)

