Diversity-Aware Red Teaming による Vision-Language-Action モデルにおける言語的脆弱性の解明

要旨: Vision-Language-Action（VLA）モデルは、ロボットの操作において目覚ましい成功を収めてきました。しかし、言語的ニュアンスに対する頑健性は、重要でありながら十分に検討されていない安全上の懸念であり、現実世界での導入に重大な安全リスクをもたらします。レッドチーミング、つまり破滅的な振る舞いを引き起こす環境シナリオを特定することは、実体（embodied）AIエージェントを安全に展開するための重要なステップです。強化学習（RL）は、自動化されたレッドチーミングに向けた有望なアプローチとして登場し、これらの脆弱性の発見を目指しています。しかし、標準的なRLベースの敵対者は、その報酬最大化の性質ゆえに、深刻なモード崩壊に陥りがちです。これは、狭い範囲の、些細または反復的な失敗パターンへと収束してしまい、有意義なリスクの全体的な景色を明らかにできないことにつながります。このギャップを埋めるために、言語の変化に対するVLAの脆弱性を明るみに出す、新しい\textbf{D}iversity-\textbf{A}ware \textbf{E}mbodied \textbf{R}ed \textbf{T}eaming（\textbf{DAERT}）フレームワークを提案します。提案手法は、物理シミュレータにおける実行失敗によって測定される攻撃の有効性を維持しつつ、挑戦的な指示の多様な集合を生成できる一様ポリシーの評価に基づいています。2つの最先端VLA、すなわち\pi_0とOpenVLAに対して、異なるロボットベンチマークにわたって広範な実験を行いました。その結果、本手法は一貫して、平均タスク成功率を93.33\%から5.85\%へと低下させる、より効果的で幅広い敵対的指示の集合を発見できることが示され、VLAエージェントをストレステストするためのスケーラブルなアプローチであり、実世界での導入前に重要な安全上の盲点を露出できることを実証しました。