メタ述語とドメイン特化言語による信頼できる臨床意思決定支援

要旨: \textbf{背景:} EUのAI法（EU AI Act）や、AI/MLベースの医療機器に関するFDAガイダンスを含む、医療におけるAIのための規制枠組みでは、臨床意思決定支援に対し、正確性だけでなく監査可能性を示すことが求められます。臨床ロジックのための既存の形式言語は、構文的・構造的な正しさは検証しますが、意思決定規則が認識論的に適切な証拠を用いているかどうかは検証できません。
\textbf{方法:} 設計契約（design-by-contract）の原則に基づき、DSL（ドメイン特化言語）で表現された臨床意思決定規則に対して認識論的制約を主張するための、メタ述語（述語についての述語）を導入します。認識論的型システムは、注釈を4つの次元（目的、知識ドメイン、スケール、取得方法）に沿って分類します。メタ述語は、任意の規則において許容される証拠の種類を主張します。この枠組みは、遺伝子変異のキュレーションのためのオープンソース・プラットフォームであるAnFiSAに実装され、Genome in a Bottleベンチマークからの560万件の変異を用いたBrigham Genomics Medicineプロトコルで示されます。
\textbf{結果:} 変異解釈に用いられる意思決定木は、ユネート・カスケードとして言い換えることができ、どの規則が各変異を分類したのか、またその理由は何かを特定する、変異ごとの監査トレイルを可能にします。メタ述語の検証は、人が作成した規則であってもAIが生成した規則であっても、デプロイ前に認識論的な誤りを検出します。このアプローチは、LIMEやSHAPのような事後的手法を補完します。説明が事後にどの証拠が使われたかを明らかにするのに対し、メタ述語はデプロイ前にどの証拠が使いうるかを制約しつつ、人が読める形を維持します。
\textbf{結論:} メタ述語の検証は、意思決定が正確であるだけでなく、それが独立して監査可能な形で適切な証拠に基づいていることを示すための一歩です。これはゲノミクスで実証されていますが、監査可能な意思決定ロジックを必要とするあらゆる領域へと一般化できます。