ハルシネーション・ニューロンは汎化するのか？LLMにおけるドメイン横断転移の証拠

要旨: 最近の研究では、大規模言語モデル（LLM）が幻覚を起こすタイミングを確実に予測する「幻覚ニューロン」（Hニューロン）の疎な集合が見いだされている。これはフィードフォワードネットワークのニューロンのうち0.1%未満である。これらのニューロンは一般知識の質問応答で同定され、新しい評価インスタンスへも一般化することが示されている。そこで自然な次の問いとして、Hニューロンは知識ドメインをまたいで一般化するのだろうか、という点を検討する。6つのドメイン（一般QA、法務、金融、科学、道徳推論、コード脆弱性）にわたる体系的なクロスドメイン転移プロトコルと、5つのオープン重みモデル（3Bから8Bのパラメータ）を用いて調べたところ、一般化しないことが分かった。あるドメインのHニューロンで学習した分類器は、そのドメイン内ではAUROC 0.783を達成するが、別のドメインへ転移すると0.563にとどまる（差分 = 0.220、p < 0.001）。この劣化は、試したすべてのモデルで一貫していた。これらの結果は、幻覚が普遍的な神経学的特徴を持つ単一のメカニズムではなく、むしろ、問い合わせられる知識タイプに応じて異なるドメイン特化のニューロン集団が関与していることを示唆している。この発見は、ニューロン単位の幻覚検出器の導入に直接的な影響を与える。検出器は一度だけ学習して普遍的に適用するのではなく、ドメインごとにキャリブレーションする必要がある。