エージェント型ワークフローにおける制御された自律性のための、分離型ヒューマン・イン・ザ・ループシステム

要旨: AIエージェントは、エージェント的ワークフローの中でタスクを実行し意思決定を行うためにますます導入されており、安全かつ制御された自律性に対する新たな要件が生じています。先行研究では、この種のシステムにおいて透明性、説明責任、信頼性を確保するために人間による監督が重要であることが示されています。しかし、既存のHuman-in-the-Loop（HITL）メカニズムの実装は、一般にアプリケーションのロジックに埋め込まれているため、マルチエージェント環境にまたがる再利用性、一貫性、そしてスケーラビリティが制限されます。
本論文は、エージェントの稼働環境内で人間の監督を独立したシステムコンポーネントとして扱う、疎結合なHITLシステムのアーキテクチャを提示します。提案設計では、明示的なインターフェースと構造化された実行モデルを通じて、人間の対話管理をアプリケーションのワークフローから分離します。さらに、HITL統合を4つの次元――介入の条件、役割の解決、対話のセマンティクス、そして通信チャネル――に沿って形式化するための設計フレームワークを導入します。このフレームワークにより、システムレベルの一貫性を維持しつつ、選択的かつ状況に応じた人間の関与が可能になります。
このアプローチは、発展するエージェント間通信プロトコルとの整合を支え、HITLをプロトコルレベルの関心事として実装できるようにします。HITLを外部化し、その統合を構造化することで、本システムは、エージェント的ワークフローにおけるスケーラブルなガバナンスと段階的な自律性のための基盤を提供します。