認知ロボティクスが重要である理由：OntoAgentとHARMONICにおけるLLM展開から得られる、安全性重視のロボット協調チームの教訓

arXiv cs.RO / 2026/3/31

💬 オピニオンSignals & Early TrendsIdeas & Deep AnalysisModels & Research

共有:

要点

本論文は、物理環境において身体性を備えたAIエージェントを展開するには、長期的（ロングホライズン）な計画が必要であり、それが信頼でき、決定論的で、かつ透明であることが求められると主張し、これが「認知ロボティクス」を動機づける。
OntoAgentの、コンテンツ中心のメタ認知的な自己監視と、結果（consequence）に基づく行動選択を、モジュール化された反応型の戦術（tactical）レイヤと統合することで、HARMONICという認知ロボットのアーキテクチャを提示する。
HARMONICは評価基盤として用いられ、複数のLLMが、同一のロボット条件のもとでOntoAgentのような認知能力を再現できるかを検証する。そこにはネイティブ設定と、知識を同等化した設定の両方が含まれる。
その研究では、LLMはしばしば行動の前に自分の知識状態を正確に評価できず、その結果、領域に根ざした診断（domain-grounded diagnostics）に失敗し、その後の行動選択にも失敗が波及することがわかる。
著者らは、これらの不備は主としてアーキテクチャ上の問題であり（単に知識が欠けているだけではない）、安全性重視のロボット推論における主要な権威としては、決定論的な認知アーキテクチャを維持すべきだと提言する。

Abstract

物理世界における身体性のあるAIエージェントを展開するには、長期的な計画を、確実に、決定論的に、かつ透明性をもって実行するための認知能力が必要です。私たちは、HARMONICという認知ロボティクスのアーキテクチャを提示します。これは、メタ認知的な自己モニタリング、ドメインに根ざした診断、そして存在論的に構造化された知識に対する帰結ベースの行動選択を提供するコンテンツ中心の認知アーキテクチャであるOntoAgentと、モジュール化されたリアクティブな戦術層を組み合わせたものです。HARMONICのモジュール設計により、LLMが同一のロボットシステム内で、同一条件のもとにおいて、OntoAgentの認知能力を再現できるかどうかを機能的に評価できます。最前線および効率的な層にまたがる6つのLLMを、知識をネイティブおよび知識等価化した条件下での協調的な保守シナリオにおいて、OntoAgentの代わりとして用います。その結果、LLMは行動の前に自らの知識状態を一貫して評価できないことが明らかになり、そのために、診断的推論および行動選択の下流で失敗が生じます。これらの欠点は、手続き的知識が同等であっても残り、知識に起因する問題ではなくアーキテクチャに起因する問題であることを示唆しています。これらの知見は、認知アーキテクチャが推論における主要な権限を保持する、物理的に身体化されたシステムの設計を支持します。これは、それらが決定論的で透明性を備えているためです。