Gemma 4 - 31b が量子化モデルを破壊（abliteration）

彼女（異端者）を使わずにこの卵を割ろうとしてみたくなって、触発されました。

FP16、Q8_0、Q4_K_M の量子化に加えて、修正/使用のための abliteration スクリプトはこちらです：
https://huggingface.co/paperscarecrow/Gemma-4-31B-it-abliterated-gguf

mlabonne のOrthogonalized Representation Intervention method（直交化された表現介入手法）をベースにしています。というのも、彼の gemma3 の ablits がとても気に入ったからです。

編集：
インターネットの速度を過大評価していましたが、モデルのアップロードはまだ続けています。