AIハードウェアを再考する：自律エージェントのための三層認知アーキテクチャ

Abstract

次世代の自律型AIシステムは、モデルの能力だけでなく、不均一なハードウェア上で知能がどのように構造化されるかによって制約を受けることになります。現在のパラダイム――クラウド中心のAI、オンデバイス推論、エッジ・クラウドのパイプライン――では、計画、推論、実行を単一のプロセスとして扱うため、不必要なレイテンシ、エネルギー消費、そして行動の連続性の断片化が生じます。本論文では、Tri-Spiritアーキテクチャを提案します。これは、知能を3層の認知フレームワークに分解するものであり、計画（Super Layer）、推論（Agent Layer）、実行（Reflex Layer）をそれぞれ、別個の計算基盤へ対応付け、非同期メッセージバスを介して協調させます。また、パラメータ化されたルーティング方針、反復される推論経路を推論ゼロの実行方針へと昇格させる習慣コンパイル機構、収束するメモリモデル、明示的な安全制約によってシステムを形式化します。提案アーキテクチャは、クラウド中心およびエッジのみのベースラインに対して、2000件の合成タスクを用いた再現可能なシミュレーションで評価します。Tri-Spiritは、平均タスクレイテンシを75.6パーセント、エネルギー消費を71.1パーセント削減し、さらにLLM呼び出しを30パーセント減らし、77.6パーセントのオフラインでのタスク完了を可能にします。これらの結果は、モデルのスケーリングだけでなく、認知の分解がAIハードウェアにおけるシステム全体の効率性の主要な駆動要因であることを示唆しています。