MetaErr：深層ニューラルネットワークにおける誤りパターンの予測に向けて

Abstract

深層学習のこれまでにない成功により、今日の世界ではいくつかのマルチメディア計算アプリケーションにおいて、それが不可欠な構成要素となっています。残念ながら、深層学習システムは完璧ではなく、事前の警告や説明なしに、時には突然に失敗することがあります。マルチメディア分野では、深層ニューラルネットワークの誤り率を低減することが主な焦点となってきましたが、深層学習システムがいつ失敗するのかを予測するという問題は、研究上の注目を大幅に少なくされてきました。本論文では、この十分に探究されていない問題に対処するため、単純でありながら効果的な枠組みである MetaErr を提案します。特定のデータサンプルに対する予測において、基盤となる深層ニューラルネットワークが成功するか失敗するかを、与えられた学習課題における基盤モデルの性能を観察することで予測することを目的としたメタモデルを訓練します。メタモデルは、基盤モデルのアーキテクチャや学習パラメータに完全に無関係です。このような誤り予測システムは、多種多様なスマート・マルチメディア・アプリケーションにおいて非常に有用になり得ます。実験的研究により、本枠組みが競合するベースラインに対して有望であること、そして潜在力を持つことを裏付けます。さらに、本枠組みが疑似ラベリングに基づく半教師あり学習の性能を改善するのに役立つことを示し、また MetaErr が 3 つのベンチマークのコンピュータビジョンデータセットにおいて、いくつかの強力なベースラインよりも優れていることを明らかにします。