長期型エンタープライズAIエージェントのための4軸意思決定アラインメント

要旨: 長期ホライズンのエンタープライズエージェントは、損失のあるメモリ、多段の推論、拘束力のある規制上の制約のもとで、高いリスクを伴う意思決定（ローン審査、請求の判定、臨床レビュー、事前承認）を行う。現在の評価では、単一のタスク成功スカラーが用いられており、異なる失敗モードが混同され、エージェントが、その配備環境が要求する基準に整合しているかどうかが隠されている。そこで本研究では、長期ホライズンの意思決定行動は、4つの互いに直交する整合性（アラインメント）軸に分解でき、それぞれ独立に測定可能で、失敗しうると提案する。すなわち、事実の精度（FRP）、推論の整合性（RCS）、コンプライアンス再構成（CRR）、校正された棄権（CAR）である。CRRは新規な規制に基づく軸であり、CARはカバレッジと精度を分離する測定軸である。我々は、この分解を、制御されたベンチマーク（LongHorizon-Bench）上で、ローンの資格審査と保険請求の判定を対象に、決定論的な真値構築を用いて実施する。6つのメモリアーキテクチャを走らせた結果、「構造の集約精度（aggregate accuracy）」では見えないことが分かった。すなわち、検索は事実の精度では崩壊する。スキーマにアンカーされたアーキテクチャは足場（スキャフォールディング）に対するタックスを支払う。事実保持プロンプトのもとでの単純な要約は、FRP、RCS、EDA、CRRにおいて強いベースラインであり、そして6つのアーキテクチャはすべてのケースで完全にコミットしており、当該分野がこれまで標的としてこなかった「意思決定の整合性軸」を明らかにする。さらにこの分解は、我々自身の事前登録済み予測—要約では事実想起が失敗するだろう—をも浮かび上がらせたが、データでは大きな倍率でそれが逆転していた。つまり、軸レベルの反転は、集約精度では隠れてしまう類のものだった。制度的整合性（規制再構成）と意思決定上の整合性（校正された棄権）は、整合性の文献では十分に表現されておらず、意思決定が実験室を離れると、重要な（負荷を担う）概念になる。この枠組みは、2つのステップを通じて、あらゆる規制された意思決定ドメインへ移植できる。すなわち、事実スキーマを構築し、CRRオーディタのプロンプトを校正する。