意図の科学へ:オープンワールドAIエージェントにおけるクローズド(閉鎖)ギャップと委任エンベロープ

arXiv cs.AI / 2026/4/29

📰 ニュースIdeas & Deep AnalysisModels & Research

要点

  • 本論文は、「検証可能なタスク」での知能(学習した構造やテスト時探索による解探索の高速化、計算・メモリ・I/Oをモデル状態に移す学習済みランタイム)だけでは、現実のオープンな組織での展開が難しい理由を十分に説明できていないと主張している。
  • 「意図コンパイル(intent compilation)」として、人間の目的を部分的にしか指定できない状態から、検査可能な成果物へと変換し、それが実行に対して明示的に結び付く仕組みを提案している。
  • 扉を閉じた世界のソルバと、オープンワールドのエージェントを区別し、オープン環境では検証が意味論・証拠・手続き・制度といった複数の側面に分散する点を整理している。
  • 残る開放性(未充足性)を「クローズドギャップベクトル(closure-gap vector)」として形式化し、「委任エンベロープ(delegation envelopes)」を事前に承認された行動空間の領域として導入、さらに「誤った閉鎖(misclosure)」と「探索不足(undersearch)」を切り分けている。
  • さらに、閉鎖(クローズ)介入が、推論時探索を増やすだけの場合より有効になるときの評価のためのベンチマーク指標を提案している。