ブラックボックス的な自信から測定可能な信頼へ：エビデンス、監督、段階的自律に基づく臨床AIの枠組み

要旨: 臨床人工知能（AI）に対する信頼は、モデルの精度、生成の流暢さ、あるいは全体的なユーザーの好印象といったものに単純に還元することはできません。医学においては、信頼は、証拠、監督、そしてAIの自律性に関する運用上の境界に基づく、測定可能なシステム特性として設計される必要があります。本論文では、証拠、監督、段階的自律という3つの原則に基づく、信頼できる臨床AIのための実践的な枠組みを提案します。提案アプローチは、決定論的な臨床ロジックを丸ごとエンドツーエンドのブラックボックスモデルで置き換えるのではなく、決定論的コア、状況に応じた妥当性確認のための患者固有のAIアシスタント、多段階のモデルエスカレーション機構、検証・エスカレーション・リスク制御のための人間による監督レイヤーを組み合わせます。本研究により、信頼は臨床的に重要な所見の選択的な検証、境界づけられた臨床文脈、規律あるプロンプト構造、そして現実的なケースにおける慎重な評価にも依存することを示します。分類器に基づくモジュール式プロンプトは、プロンプト性能を損なうことなく臨床的な深さを段階的に拡張するための、そして完全なルールベースのカバレッジを待たずに済むための漸進的な道筋として検討されます。信頼を運用化するために、計量学の原理に基づく一連の信頼指標を提案します――測定不確かさ、キャリブレーション、トレーサビリティにより、各アーキテクチャ層を主観的に評価するのではなく定量的に評価できるようにします。この観点から、信頼できる臨床AIは、個々のモデルの性質としてではなく、最初からエビデンスのトレース、人間の監督、段階的なエスカレーション、段階的な行動権限が組み込まれたシステムのアーキテクチャ上の成果として現れるのです。