トランスフォーマーに着目したエンドツーエンド自動運転への、知覚不能な敵対的攻撃のためのAdversarial Flow Matching

arXiv cs.CV / 2026/5/5

📰 ニュースSignals & Early TrendsIdeas & Deep AnalysisModels & Research

共有:

要点

この論文は、エンドツーエンド自動運転（E2E AD）がモノリシックなVLA型であってもモジュール型であっても、Transformerバックボーンに共通する脆弱性により、視覚的にほとんど気づかない摂動で危険な挙動を誘発できる可能性があると述べています。
Adversarial Flow Matching（AFM）と呼ばれる新しいグレーボックス攻撃手法を提案し、ニューラル平均速度場を用いて敵対的例をワンステップで効率的に生成できるとしています。
AFMは、有効性と視覚的な目立たなさの両立を狙い、生成用潜在空間とニューラル平均速度場の双方を協調的に摂動させる設計になっています。
実験では、AFMがVLA型とモジュール型の両方のADエージェントの性能を複数のシナリオで大きく低下させつつ、既存ベースラインに対して視覚的な不可視性の点で最先端の水準を維持することが示されています。
さらに、生成した敵対的例はモデル間で堅牢に転移するため、ターゲットがTransformerベースのモジュールを含むという事前知識だけで、ブラックボックスに近い脅威設定を再現できることを示唆しています。