AIエージェントの実行時ガバナンス: 経路に関するポリシー

概要：AIエージェント――大規模言語モデルを用いて計画し、推論し、行動するシステム――は、設計時に完全には統治できない非決定的でパス依存的な挙動を生み出す。統治とは、可能な限り高いタスク完了率と、エージェントを運用することに伴う法的、データ流出、評判リスクおよびその他のコストとの間で適切なバランスを取ることを意味する。実行パスは効果的な実行時ガバナンスの中心的な対象であり、コンプライアンス方針を、エージェントの識別情報、部分的なパス、提案された次のアクション、組織状態を写像する決定論的関数として方針違反の確率へ写像させる形で形式化します。我々は、プロンプトレベルの指示（および「システムプロンプト」）と静的アクセス制御がこのフレームワークの特殊なケースであることを示します：前者は実際に評価することなくパスの分布を形成し、後者はパスを無視する決定論的ポリシーを評価します（すなわち、すべての可能なパスの特定のサブセットのみを考慮できます）。私たちの見解では、ランタイム評価が一般的なケースであり、パス依存ポリシーには不可欠です。AIエージェントガバナンスを分析するための形式的なフレームワークを開発し、AI法に触発された具体的なポリシー例を提示し、参考実装を議論し、リスクの較正と強制準拠の限界を含む未解決の問題を特定します。