Cognitive Loop of Thought：効率的な数学的推論のための可逆階層型マルコフ連鎖

Abstract

多段のChain-of-Thought（CoT）は、明示的な推論ステップを活用することで、LLMの数学的推論能力を大きく前進させてきました。しかし、Long CoTが広く普及することで、扱い可能な計算上の制限を超えるほど長いシーケンス長が生じることがしばしばあります。既存の手法では、マルコフ連鎖のような構造によりKVキャッシュの冗長性を減らすことでこの問題を緩和しようとしていますが、そこには2つの重要な制限があります。すなわち、固有の「メモリレス性」（文脈の喪失）と、「後ろ向きの推論能力」の限界です。これらの制限に対処するために、Reversible Hierarchical Markov Chainに基づく新しいChain-of-Thoughtフレームワーク、Cognitive Loop of Thought（CLoT）と、後ろ向き推論データセットであるCLoT-Instructを提案します。CLoTでは、問題を階層的な依存関係を持つサブ問題へと分解します。人間の認知プロセスに着想を得て、各階層レイヤで後ろ向き検証メカニズムを導入します。さらに、剪定戦略も実装します。すなわち、上位レベルのサブ問題が検証された時点で、冗長な下位レベルのサブ問題を剪定し、効率を最大化します。このアプローチにより、誤り伝播を効果的に抑制し、推論の頑健性を高めることができます。4つの数学ベンチマークでの実験により、本手法の有効性が示されます。特に、GPT-4o-miniを用いたAddSubデータセットでは、CLoTは99.0%の精度を達成しており、従来のCoTおよびCoT-SCをそれぞれ4.1%および2.9%上回ります。