不確実性を考慮した情報探索：解釈可能で信頼できる医療画像解析のために

Abstract

医療画像解析のような安全性が重要な領域で利用されるためには、AIシステムは人間が解釈できる意思決定を提供しなければなりません。変分情報追跡（Variational Information Pursuit: V-IP）は、入力画像を人間が理解可能な概念ごとに逐次的に照会し、それらの存在または不在を用いて予測を行うことで、解釈可能性を設計段階から備えた枠組みを提供します。しかし、既存のV-IP手法は、概念予測におけるサンプル固有の不確実性を見落としています。これは、曖昧な特徴やモデルの制約によって生じ得て、その結果として照会の選択が最適でなくなり、ロバスト性が低下します。本論文では、概念ベースで解釈可能性を設計段階から備えたモデルにおける上流側の不確実性を考慮することで、これらの限界に対処する、解釈可能かつ不確実性を意識した医用画像向けの枠組みを提案します。具体的には、不確実性を考慮した2つのモデルであるEUAV-IPおよびIUAV-IPを導入し、V-IPの照会プロセスに不確実性推定を統合して、各サンプルに対してより信頼できる概念を優先します。EUAV-IPはマスキングによって不確実な概念をスキップし、一方でIUAV-IPは、不確実性を照会選択に暗黙的に取り入れることで、より情報に基づきかつ臨床的に整合した意思決定を可能にします。本手法により、人間の介入なしに、各個体のサンプルに合わせて調整された概念の部分集合に基づいて信頼できる意思決定を行えると同時に、全体としての解釈可能性は維持されます。提案手法を、4つのモダリティ（デスモスコピー（dermoscopy）、X線、超音波、血液細胞画像）にまたがる5つの医用画像データセットで評価します。提案するIUAV-IPモデルは、解釈可能性を設計段階から備えた手法の中で5つのデータセットのうち4つにおいて最先端の精度を達成し、少ないながらもより有益な概念を選択することで、より簡潔な説明を生成します。これらの進歩により、より信頼性が高く臨床的に意味のある結果が可能になり、モデルの信頼性が高まるとともに、ヘルスケア領域におけるより安全なAI導入を支援します。