LLM の検閲を解除する方法

はじめに 最近、HuggingFace などのトレンド欄で uncensored あるいは decensored などと銘打った、検閲解除済みモデルを見かける機会が増えています。これらのモデルでは、元のモデルが持つ性能を維持しつつ安全性のための命令拒否メカニズムが外されており、基本的にどのような入力にも応答するように調整されています。一見すると、このようなモデルをつくるためには有害なデータを用いた大規模な再学習が必要に思えますが、現在主流となっているのは再学習を伴わない Abliteration と呼ばれる手法です。 https://arxiv.org/abs/2406.11717 ...