DTP-Attack：軌道予測に対する決定ベースのブラックボックス敵対的攻撃

要旨: 予測軌道（トラジェクトリ）システムは自動運転の安全性にとって重要である一方、壊滅的な交通挙動の誤解釈を引き起こし得る敵対的攻撃に対して脆弱なままです。既存の攻撃手法は、勾配情報を含むホワイトボックスへのアクセスを必要とし、また硬直的な物理制約に依存しているため、実世界での適用性が制限されています。私たちは、軌道予測システム向けに調整した意思決定ベースのブラックボックス敵対的攻撃フレームワークであるDTP-Attackを提案します。提案手法はモデル内部や勾配を必要とせず、二値の意思決定出力のみを用いて動作するため、実環境のシナリオにおいて実用的です。DTP-Attackは、新しい境界歩行（boundary walking）アルゴリズムを採用し、固定された制約なしに敵対的領域を探索することで、近接性の保持を自然に通じて軌道の現実らしさを維持します。既存の手法とは異なり、私たちの方法は、意図の誤分類攻撃と予測精度の低下の両方に対応します。Trajectron++やGrip++を含む最先端モデルに対し、nuScenesおよびApolloscapeデータセットで大規模な評価を行った結果、優れた性能が示されました。DTP-Attackは、0.45 m未満の摂動で知覚される運転操作を操作する意図誤分類攻撃に対して41〜81%の攻撃成功率を達成し、精度低下では予測誤差を1.9〜4.2増加させます。提案手法は、多様なシナリオにおいて高い制御可能性と信頼性を維持しながら、既存のブラックボックス手法を一貫して上回ります。これらの結果は、現在の軌道予測システムに内在する基本的な脆弱性を明らかにしており、安全性に直結する自動運転アプリケーションにおける頑健な防御の緊急の必要性を示しています。