DynaTrust: 動的信頼グラフを用いた潜伏エージェントからのマルチエージェントシステム防御

要旨: 大規模言語モデルに基づくマルチエージェントシステム（MAS）は、卓越した協調推論能力を示してきたが、スリーパーエージェントのような新たな攻撃面を生み出す。スリーパーエージェントは通常の運用時には無害に振る舞い、徐々に信頼を蓄積し、特定の条件やトリガーが満たされた場合にのみ悪意のある挙動を露呈する。既存の防御手法は主に静的グラフの最適化や階層的データ管理に焦点を当てており、進化する敵対戦略への適応に失敗したり、硬直的なブロック方針による高い偽陽性率（FPR）に悩まされることが多い。これを解決するため、スリーパーエージェントに対する新規防御手法であるDynaTrustを提案します。DynaTrustはMASを動的信頼グラフ（DTG）としてモデル化し、信頼を静的な属性ではなく、継続的で進化するプロセスとして扱います。それは、各エージェントの過去の挙動と選択された専門家エージェントの信頼度に基づいて、信頼を動的に更新します。単純にブロックするだけでなく、DynaTrustは自律的にグラフを再構築して侵害されたエージェントを孤立させ、タスクの連結性を回復してMASの実用性を確保します。DynaTrustの有効性を評価するため、AdvBenchとHumanEvalに由来する混合ベンチマークで評価します。結果は、最先端の手法AgentShieldを上回り、防御成功率を41.7％向上させ、敵対的条件下で86％を超える達成率を達成することを示しています。さらに、偽陽性率（FPR）を大幅に低減することでセキュリティと有用性のバランスを効果的に取り、グラフ適応を通じてシステム運用の中断を回避します。