凸化したニューラルネットワークのブートストラップによるCNNの不確実性定量化

arXiv cs.LG / 2026/4/15

💬 オピニオンIdeas & Deep AnalysisModels & Research

要点

  • 本論文は、畳み込みニューラルネットワーク(CNN)に対する不確実性定量化(UQ)が十分に発展しておらず、予測の不確実性が重要となる医療などの高リスク領域での活用が制限されていると主張している。
  • 「convexified neural networks(凸化ニューラルネットワーク)」を用いるブートストラップ型の枠組みを提案し、不確実性推定の品質に関して理論的な整合性(整合性に関する保証)を与える。
  • 各ブートストラップ反復において、モデルを毎回最初から作り直すのではなくウォームスタートを用いることで、計算効率の高い設計となっている。
  • 著者らは、凸化されたネットワークに限定されないように枠組みを拡張するための転移学習アプローチを導入し、任意のニューラルネットワーク構成で動作できるようにする。
  • 複数の画像データセットでの実験により、ベースラインのCNN手法や複数の最先端のUQ手法に対して性能が向上することを示している。

Abstract

畳み込みニューラルネットワーク(CNN)の人気にもかかわらず、CNNにおける不確実性定量化(UQ)の問題は、これまでほとんど見過ごされてきました。不十分な効率のUQツールは、予測の不確実性が決定的に重要である医療などの特定の領域において、CNNの適用を強く制限しています。深層学習に対して提案されてきたいくつかの既存のUQアプローチの中でも、不確実性の品質を保証できる理論的整合性を備えたものはありません。そこで本研究では、予測不確実性の推定のための新しいブートストラップに基づく枠組みを提案します。私たちが用いる推論手順は、ブートストラップの理論的整合性を確立するために、凸化されたニューラルネットワークに依拠します。このアプローチは、競合手法と比べて計算負荷が大幅に小さいです。これは、各ブートストラップにおいて、毎回モデルを最初から作り直すことを避けるウォームスタートに依存しているためです。さらに、任意のニューラルネットワークで枠組みを機能させられるようにするための、新しい転移学習手法も探究します。実験により、私たちのアプローチが、さまざまな画像データセットにおいて、他のベースラインCNNおよび最新の手法と比べて大幅に優れた性能を示すことを実証します。