時系列ディープ臨床予測モデルの解釈に向けた実践的ガイド：再現性に関する研究

Abstract

臨床の意思決定は重大な結果を伴い、明示的な正当化が必要であるため、モデルの解釈可能性は、導入前に深層臨床モデルを監査するうえで不可欠です。モデルアーキテクチャと説明可能性手法のエコシステムが拡大するにつれて、依然として重要な問いが残ります。すなわち、注意（attention）のようなアーキテクチャ上の特徴は説明可能性を向上させるのか。解釈可能性のアプローチは、臨床タスク間で汎化するのか。先行するベンチマークの取り組みは存在しますが、多くの場合、拡張性と再現性に欠け、さらに決定的には、臨床タスクとモデルアーキテクチャの相互作用において、解釈可能性がどのように変化するかを体系的に検討できていません。これらの不足に対処するため、私たちは多様な臨床予測タスクとモデルアーキテクチャにわたって解釈可能性手法を評価する包括的なベンチマークを提示します。私たちの分析から明らかになったことは次のとおりです。(1) 注意（attention）を適切に活用することで、モデル予測を忠実に解釈するうえで非常に効率のよいアプローチになること。(2) KernelSHAP や LIME のようなブラックボックス型インタプリタは、時系列の臨床予測タスクでは計算的に実行不可能であること。(3) いくつかの解釈可能性アプローチは信頼できるほどに不確かであること、です。これらの結果に基づき、臨床予測パイプラインにおける解釈可能性を改善するための複数のガイドラインについて議論します。再現性と拡張性を支えるために、十分に文書化されたオープンソースのフレームワークである PyHealth を通じて実装を提供します：https://github.com/sunlabuiuc/PyHealth.