TTE-CAM：事前学習済みブラックボックスCNNに対するテスト時説明可能性のための内蔵クラス活性化マップ

Abstract

畳み込みニューラルネットワーク（CNN）は医用画像解析において最先端の性能を達成している一方で不透明性が残り、意思決定の重要度が高い臨床現場での導入を制限している。既存のアプローチには本質的なトレードオフがある。すなわち、事後的手法は忠実でない近似的な説明を提供し、一方で本質的に解釈可能なアーキテクチャは忠実だが、多くの場合予測性能を犠牲にする。われわれは、このギャップを埋めるテスト時フレームワークであるTTE-CAMを提案する。これは、分類ヘッドを畳み込みベースで置き換えることで、事前学習済みのブラックボックスCNNを自己説明可能モデルへ変換するものであり、置換は元の重みから初期化して行う。その結果得られるモデルは、ブラックボックスとしての予測性能を維持しつつ、事後的手法と競合するほどの、定性的および定量的に忠実な組み込み説明を提供する。コードは https://github.com/kdjoumessi/Test-Time-Explainability で公開されている