クラウド支援型自動運転システムにおける敵対的頑健性の分析

Abstract

自律走行車は、深層学習に基づく知覚と制御にますます依存しており、これらは大きな計算負荷を課します。クラウド支援型アーキテクチャでは、これらの機能をリモートサーバにオフロードすることで、モノのインターネット（IoV）を通じて知覚を強化し、連携した意思決定を可能にします。しかし、このパラダイムは層をまたぐ脆弱性を導入します。すなわち、知覚モデルへの敵対的な操作と、車両—クラウド間リンクにおけるネットワーク劣化が、連携して安全性に直結する自律性を損なう可能性があります。本論文は、このような脆弱性をクラウド支援型の自律運転において評価するため、リアルタイムの知覚・制御・通信を統合したハードウェア・イン・ザ・ループ（HIL）のIoVテストベッドを提示します。クラウドに配備したYOLOv8ベースの物体検出器に対し、Fast Gradient Sign Method（FGSM）およびProjected Gradient Descent（PGD）を用いたホワイトボックス敵対攻撃を行います。同時に、ネットワークの敵対者が車両—クラウド間ループに遅延とパケット損失を誘発します。結果は、敵対的摂動が知覚性能を大きく低下させることを示しています。PGDでは、クリーンなベースラインでの検出精度・再現率がそれぞれ0.73および0.68であったのに対し、epsilon=0.04では0.22および0.15まで低下しました。150〜250 msのネットワーク遅延は、約3〜4フレームの一時的な損失に相当し、またパケット損失率0.5〜5%が閉ループ制御をさらに不安定化させ、作動の遅れやルール違反につながります。これらの知見は、クラウド支援型自律運転システムにおける層横断的な耐性の必要性を浮き彫りにします。