コンピュータ操作エージェントの安全性・セキュリティ脅威に関する調査：JARVISかUltronか？

要旨: 近年、コンピューティングデバイスに対するAI主導の対話は、基本的なプロトタイプツールから、グラフィカルユーザインタフェース上で人間らしい操作を模倣する、洗練されたLLMベースのシステムへと進化してきました。現在、
\emph{Computer-Using Agents}（CUA：計算機利用エージェント）が登場しつつあります。これらは、デスクトップアプリケーション、Webページ、モバイルアプリを自律的にナビゲートするなどのタスクを実行できるものです。しかし、エージェントの能力が高まるにつれ、新たな安全性およびセキュリティ上のリスクも同時に生み出します。LLM主導の推論における脆弱性は、多数のソフトウェアコンポーネントの統合およびマルチモーダル入力という複雑さが加わることで、セキュリティ環境をさらに難しくします。本論文では、CUAの安全性およびセキュリティ上の脅威に関する知見を体系化することを示します。私たちは包括的な文献調査を行い、4つの研究目的に沿って発見を抽出します：
\textit{\textbf{(i)}} 安全性分析に適したCUAを定義すること；
\textit{\textbf{(ii)}} CUAの間における現在の安全上の脅威を分類すること；
\textit{\textbf{(iii)}} 既存の防御戦略の包括的な分類法（タクソノミー）を提案すること；
\textit{\textbf{(iv)}} CUAの安全性と性能を評価するために用いられている、支配的なベンチマーク、データセット、および評価指標を要約すること。これらの洞察に基づき、本研究は、未解明の脆弱性を探究するための将来の研究者に対する構造化された基盤を提供するとともに、セキュアな計算機利用エージェントを設計・導入する際の、実務者にとって実行可能な指針も提供します。