SafeSeek：言語モデルにおける安全回路のユニバーサルな帰属

Abstract

機械論的解釈可能性は、大規模言語モデル（LLM）における安全性にクリティカルな振る舞い（例：アラインメント、ジェイルブレイク、バックドア）が、特殊化された機能コンポーネントに基づいていることを明らかにする。しかし、既存の安全性アトリビューション（帰属）手法は、ヒューリスティックなドメイン固有の指標や探索アルゴリズムに依存しているため、一般化と信頼性の面で苦戦している。これに対し、本研究では ourmethod を提案する。これは、最適化によって LLM 内の機能的に完備した安全回路を同定する統一的な安全性解釈可能性フレームワークである。孤立したヘッドやニューロンに焦点を当てる手法とは異なり、ourmethod は、安全データセット上での勾配降下により、微分可能な二値マスクを導入して多粒度の回路を抽出する。また、これらの疎な回路を用いて効率的な安全性微調整を行うために Safety Circuit Tuning を統合する。我々は、LLM の安全性において重要な2つのシナリオで ourmethod を検証する：（1）\textbf{(1) バックドア攻撃}：0.42\% のスパース性をもつバックドア回路を同定し、そのアブレーションにより攻撃成功率（ASR）が 100\% から 0.4\% に低下する一方で、99\% 超の汎用的有用性を維持する。（2）\textbf{(2) 安全性アラインメント}：3.03\% のヘッドおよび 0.79\% のニューロンからなるアラインメント回路を局所化する。この回路を除去すると ASR が 0.8\% から 96.9\% へと急上昇するが、有益性（helpfulness）の微調整中にこの回路を除外すると 96.5\% の安全性保持が維持される。