CI-Work：エンタープライズLLMエージェントにおける文脈整合性（Contextual Integrity）のベンチマーク

要旨: エンタープライズLLMエージェントは業務の生産性を大幅に向上させることができますが、その中核となる能力である、ユーザーの代わりに行動するために内部の文脈を取得して利用することは、機微情報の漏えいに関する新たなリスクも生み出します。私たちは、5つの情報フローの方向にわたってエンタープライズの業務フローを模倣し、密な検索設定において、エージェントが重要な内容を伝えつつ機微な文脈を控えられるかを評価する、文脈的整合性（Contextual Integrity: CI）に基づくベンチマーク「CI-Work」を提案します。最先端モデルの評価の結果、プライバシーの失敗が広く見られることが分かりました（違反率は15.8%-50.9%の範囲で、漏えいは最大26.7%に達します）。さらに、産業展開にとって重要な、直感に反するトレードオフも明らかになりました。すなわち、高いタスク有用性は、多くの場合、より大きなプライバシー違反と相関するというものです。加えて、エンタープライズデータの大規模さや潜在的なユーザー行動によって、この脆弱性はさらに増幅されます。単にモデルサイズや推論の深さを増やすだけでは、この問題に対処できません。私たちは、エンタープライズの業務フローを守るには、パラダイムシフトが必要であり、モデル中心のスケーリングから、文脈中心のアーキテクチャへと移行することが必要だと結論づけます。