LLMsの価値ある能力はなぜまさに説明不能なものなのか

要旨: 本稿は直感に反する命題を提案し、それを支持する。すなわち、巨大言語モデル（LLMs）の真に価値のある能力は、人間が読み取れる離散的な規則では完全には捉えきれない部分に正確に存在する。核となる主張は、背理法による専門家システムの同等性を介した証明である。もしLLMの全能力が人間が読み取れる完全な規則の集合で記述可能であるなら、その規則集合は機能的には専門家システムと同等になるはずだ。しかし、専門家システムは歴史的にも実証的にもLLMsより厳密に劣ることが示されている。したがって、矛盾が生じる――LLMsが専門家システムを超える能力は、まさに規則として組み込むことができない能力である。この命題は、中国哲学の「無」（実践を通じた突然の洞察）の概念、専門家システムの歴史的失敗、そして人間の認知ツールと複雑なシステムとの構造的な不一致によってさらに支持される。本論文は、解釈可能性研究、AIの安全性、そして科学的認識論への含意について論じる。