意見の不一致から学ぶ：価値ベースの医療における臨床AIの「臨床家による上書き」が暗黙の嗜好（プリファレンス）信号になること
arXiv cs.LG / 2026/5/1
📰 ニュースIdeas & Deep AnalysisModels & Research
要点
- 本研究は、臨床AIの推奨に対する臨床家の上書きを暗黙の嗜好データ（プリファレンス信号）として捉え直し、RLHFの考え方を、専門家の判断が実際の結果に結びつく臨床の状況へ拡張する。
- 上書きは患者の状態、組織的な文脈、そして臨床家の能力に基づいて定式化され、能力は実行能力（execution capability）とアライメント能力（alignment capability）に分解される。
- 報酬モデルと能力モデルを交互最適化で同時に学習するデュアル学習アーキテクチャを提案し、「抑制バイアス（suppression bias）」—臨床家の能力が実行しきい値を下回ると正しいが難しい推奨が体系的に抑制される—の失敗モードを抑える。
- さらに、アウトカム連動の支払い契約と慢性疾患管理の組み合わせにより、縦断的なデータ密度、意思決定領域の集中、転帰ラベル、能力の自然な変動といった、報酬モデル学習に特に有利な上書きデータが得られると主張する。
- これらの枠組みは、生きた価値ベースの医療デプロイメントにおいて臨床家の能力を高める運用上の取り組みから生まれたと述べている。
