認知的サーキットブレーカー：内在的AI信頼性のためのシステムズエンジニアリングの枠組み

要旨: 大規模言語モデル（LLM）がミッションクリティカルなソフトウェアシステムへますます導入されるにつれて、幻覚の検出や「偽の真実味」の検出は、最重要の工学課題となっています。現在の信頼性アーキテクチャは、検索拡張生成（Retrieval-Augmented Generation: RAG）のクロスチェックや、LLMを裁定者とする評価器といった、生成後の段階に依存したブラックボックス的な仕組みに大きく依存しています。これらの外因的手法は、容認できないレイテンシ、過大な計算オーバーヘッド、そしてセカンダリな外部API呼び出しへの依存をもたらし、しばしば標準的なソフトウェア工学のサービスレベル契約（SLA）に違反します。本論文では、最小限のレイテンシオーバーヘッドで固有の信頼性モニタリングを提供する、新しいシステム工学フレームワークである「Cognitive Circuit Breaker（認知的回路遮断器）」を提案します。モデルの順伝播（forward pass）中に隠れ状態を抽出することで、「Cognitive Dissonance Delta（認知的不協和デルタ）」—LLMの外向きの意味論的自信（softmax確率）と、その内部の潜在的確実性（線形プローブにより導出されるもの）の間の数学的ギャップ—を計算します。本論文では、認知的不協和の統計的に有意な検出を示し、アーキテクチャ依存の外部分布外（Out-of-Distribution: OOD）一般化を強調し、さらにこのフレームワークが能動的推論（active inference）パイプラインにほとんど無視できる計算オーバーヘッドしか追加しないことを示します。