ガバナンス規範から強制可能な統制へ：エージェント型AIにおける実行時ガードレールのための階層的トランスレーション手法

要旨: エージェント型AIシステムは計画を立て、ツールを使用し、状態を維持し、外部への影響を伴う複数ステップの軌道（トラジェクトリ）を生成する。これらの特性は、シングルターンの生成AIとは実質的に異なるガバナンス問題を生み出す。すなわち、重要なリスクは、モデルの開発やデプロイの時点だけでなく、実行中に現れるのである。したがって、ISO/IEC 42001、ISO/IEC 23894、ISO/IEC 42005、ISO/IEC 5338、ISO/IEC 38507、およびNISTのAIリスク管理フレームワークのようなガバナンス基準は、エージェント型AIにとって極めて関連性が高い。しかし、それらは単独では実装可能な実行時（ランタイム）のガードレールを導くものではない。本論文は、基準に由来するガバナンス目標を4つの制御層、すなわち「ガバナンス目標」「設計時の制約」「実行時の調停（メディエーション）」「保証（アシュアランス）のフィードバック」に接続する、階層的な翻訳（トランスレーション）手法を提案する。論文では、ガバナンス目標、技術的コントロール、実行時のガードレール、保証の証拠を区別し、制御タプルと、層割当てのための実行時強制可能性ルーブリックを導入し、調達エージェントのケーススタディでその方法を実証する。中心的主張は控えめである。すなわち、標準は、アーキテクチャ、実行時ポリシー、人によるエスカレーション、監査にまたがる制御配置を導くべきであり、一方で実行時ガードレールは、「観測可能で、決定可能で、実行時の介入を正当化できるほど時間に敏感である」制御に限定して用いるべきだ、というものである。