合成ニューラル・シンボリック推論

概要: 我々は、抽象化と推論コーパス（ARC）に対する、構造化された抽象化ベースの推論を研究し、それがテスト時アプローチと比較してどのように一般化するかを検討します。純粋にニューラルなアーキテクチャでは信頼できる組合せ的な一般化が欠ける一方で、厳密に記号論理に基づくシステムでは知覚に対するグラウンディングが難しくなります。そこで我々は、グリッドからオブジェクト（対象）レベルの構造を抽出し、ニューラルな事前分布を用いて、固定された領域固有言語（DSL）の原子的パターンから候補となる変換を提案し、さらに複数例にまたがる整合性によって仮説をフィルタする、神経記号（neuro-symbolic）アーキテクチャを提案します。人間の視覚的抽象化に触発されたユニットパターンに基づく、合成的推論フレームワークとして具現化された本システムは、対象表現と変換提案によって大規模言語モデル（LLM）を拡張します。ARC-AGI-2において、この手法は公開評価セットでの基礎LLM性能を16%から24.4%へ向上させ、さらにメタ分類器を通じてARC Lang Solverと組み合わせると30.8%になります。これらの結果は、知覚、ニューラルに導かれた変換提案、そして記号的な整合性フィルタリングを分離することで、タスク固有の微調整や強化学習を行わずに一般化が改善されること、またブルートフォース探索やサンプリングベースのテスト時スケーリングへの依存を減らせることを示しています。我々はARC-AGI-2 Reasonerのコードをオープンソース化します（https://github.com/CoreThink-AI/arc-agi-2-reasoner）。