Think Before You Act ― 自律AIエージェントのための神経認知的ガバナンスモデル
arXiv cs.AI / 2026/4/29
📰 ニュースIdeas & Deep AnalysisModels & Research
要点
- 本論文は、自律AIエージェントがガバナンス面での根本的なギャップに直面していると主張しており、既存の安全策（ランタイムのガードレール、学習時のアライメント、事後監査）はガバナンスを外部から課す制約として扱うため、危険かつ取り返しのつかない行動に脆弱だと述べています。
- 人が自己統治するときのプロセス（実行機能や抑制的制御に支えられた、意図した行動が許可されるか・修正が必要か・エスカレーションが必要かを判断する熟慮）を、LLM駆動エージェントの推論に対応させる神経認知的ガバナンス枠組みを提案しています。
- Pre-Action Governance Reasoning Loop（PAGRL）を形式化し、エージェントが重大な行動を起こす前に、4層のルール（グローバル、ワークフロー固有、エージェント固有、状況依存）を参照する仕組みを示しています。
- 製造ではなく生産グレードの小売サプライチェーンのワークフロー上で、コンプライアンス精度95%かつ人の監督への誤エスカレーションゼロが報告され、外部的な強制よりも一貫性・説明可能性・監査可能性が高いとしています。
- 総じて、ガバナンスをエージェント推論に埋め込まれた要素として位置づけ、外付けで付加するのではなく「考え方そのもの」として取り込むことで、より安全な自己統治エージェントの土台を提示しています。
