Position: LLMによる神経記号的ファクトチェックにおいて論理的健全性は信頼できる基準ではない

要旨: 大規模言語モデル（LLM）が事実確認（ファクトチェック）パイプラインにますます統合されるにつれ、バイアス、誤り、そしてこれらのモデルの出力における幻覚を軽減するための厳密な手段として、形式論理がしばしば提案されている。たとえば、ある種の神経記号論的（neurosymbolic）システムでは、LLMを用いて自然言語を論理式へ翻訳し、その提案された主張が論理的に健全であるか、すなわち真であると検証されている前提から、妥当な形で導出可能かどうかをチェックすることで、主張を検証する。われわれは、このようなアプローチは、論理的に健全な結論と、人間が典型的に行い、かつ受け入れる推論との間に存在する体系的な相違によって、誤解を招く主張を構造的に検出できないことを論じる。認知科学および語用論の研究に基づき、論理的に健全な結論が、基となる前提によって支持されない人間の推論を体系的に喚起する事例の類型論を提示する。その結果として、われわれは補完的なアプローチを提案する。すなわち、LLMの人間らしい推論傾向を「バグ」ではなく「特徴」として活用し、これらのモデルを用いて、神経記号論的システムにおける形式的コンポーネントの出力を、潜在的に誤解を招く結論に対して検証する、という方法である。