クラウドは見かけより近い——分散型リアルタイム推論のトレードオフを再検討する

Abstract

サイバーフィジカルシステム（CPS）における深層ニューラルネットワーク（DNN）の導入の増加は、知覚の忠実度を高めますが、実行プラットフォームに大きな計算需要を課し、リアルタイム制御の締切に関する課題をもたらします。従来の分散CPSアーキテクチャでは、ネットワークの変動や、遠隔プラットフォーム上での輻輳（コンテンション）に起因する遅延を回避するため、一般にオンデバイス推論が重視されてきました。しかし、この設計上の選択は、ローカルのハードウェアに対して大きなエネルギーと計算負荷を要求します。本研究では、クラウドベース推論が、本質的にレイテンシに敏感な制御タスクには不適であるという前提を改めて検討します。高いスループットの計算資源が与えられるなら、クラウドプラットフォームはネットワーク遅延およびキューイング遅延を効果的にならして（償却して）処理でき、リアルタイムな意思決定においてオンデバイスの性能に匹敵、あるいはそれを上回ることが可能であることを示します。具体的には、分散推論のレイテンシを、センシング周波数、プラットフォームのスループット、ネットワーク遅延、ならびにタスク固有の安全制約の関数として特徴づける、形式的な解析モデルを開発します。このモデルを、自動運転における緊急ブレーキの文脈で具体化し、実時間の車両ダイナミクスを用いた大規模なシミュレーションにより検証します。実証的な結果により、クラウドベース推論が、そのオンデバイス側の対応物よりも安全マージンをより確実に満たす具体的な条件が明らかになります。これらの知見は、従来の設計戦略に異議を唱えるものであり、クラウドは単に実行可能な選択肢というだけでなく、分散CPSアーキテクチャにおいてはしばしば推論配置として最適な場所であることを示唆します。この観点から、クラウドは従来考えられていたほど遠くはなく、実際には見かけよりもずっと近いのです。