適応型ディープニューラルネットワークにおける上側信頼限界（UCB）アルゴリズムの性能比較分析

Abstract

エッジコンピューティング環境は、エネルギー消費とレイテンシに厳しい制約を課すため、深層ニューラルネットワークのデプロイは大きな課題となります。したがって、計算コストまたはレイテンシと予測精度の間を動的に調整する、スマートで適応的な推論戦略が、エッジコンピューティングのシナリオでは重要です。本研究では、Multi-Armed Bandit（MAB）フレームワークを用いるAdaptive Deep Neural Networks（ADNNs）に基づいて構築します。既存の文献では、最適な信頼度しきい値を動的に選択するためにUpper Confidence Bound（UCB1）戦略の最初のバージョンを活用し、精度を犠牲にすることなく効率的な早期終了（early exit）を可能にしています。しかし本研究では、ADNNsにおいて追加の4つのUpper Confidence Bound戦略、すなわちUCB-V、UCB-Tuned、UCB-Bayes、UCB-BwKを導入し、精度、エネルギー消費、レイテンシのトレードオフに関して、これらの戦略を比較する研究を初めて行います。提案するUCB戦略はResNetおよびMobileViTのニューラルネットワークに適用され、CIFAR-10、CIFAR-10.1、CIFAR-100のベンチマークデータセットで評価されます。実験結果は、すべての戦略が累積的な後悔（cumulative regret）を準線形（sub-linear）的に達成し、UCB-Bayesが最も速く収束し、その次にUCB-TunedとUCB-Vが続くことを示しています。最後に、UCB-VとUCB-Tunedは、精度-レイテンシおよび精度-エネルギートレードオフにおけるパレートフロンティアを支配します。