神経AIにおける臨床的に意味のある説明可能性: 倫理的・技術的・臨床的観点

要旨:
説明可能なAI（XAI）は、精神科および神経疾患の閉ループ神経技術における透明性と信頼性を高める手段としてよく称賛される一方で、その実世界での普及率は依然として低い。
さらに、現在のXAI手法が提供する説明のタイプは、臨床医のエンドユーザーのニーズと一致しないことが多い、という経験的な証拠がある。
本見解では、臨床的に意味のある説明可能性（CME）は、AI活用の閉ループ医療神経技術に不可欠であり、倫理的・技術的・臨床的観点から対処されるべきだと主張する。
過度の技術的詳細よりも、臨床医は入力-出力関係の明確な表現や特徴量の重要性といった、臨床的に関連があり実用的な説明を優先する。
理論的には望ましい全ての技術的透明性は、実践ではしばしば関連性が低い、あるいはむしろ圧倒的すらであり、情報過多を招く可能性がある。
したがって、神経技術分野におけるCMEを提唱する：技術的な完成度よりも実用的な明瞭さを優先し、AI出力と主要特徴を臨床的に意味のある形式へ直感的にマッピングするインターフェイス可視化を設計する。
この目的のために、CMEを将来の神経刺激デバイスに対する実用的な技術設計推奨へ翻訳するリファレンスアーキテクチャ「NeuroXplain」を紹介する。
私たちの目的は、神経技術および規制フレームワークの開発に携わる関係者に対して、説明可能性が適切なニーズを満たし、適切な利害関係者に対して適切に機能することを保証し、最終的にはより良い患者の治療とケアにつながるように情報提供することである。