サブグループの公平性に向けたデータ介入の調査：ICUのケーススタディ

要旨: 人々に関する意思決定を自動化するために機械学習モデルが用いられる、重大な結果を伴う状況では、アルゴリズムのバイアスが特定のサブグループの人々に対する体系的な害を助長し得る。これらのバイアスは、多くの場合、基盤となる学習データに由来する。実務上、「データを修正する」ための介入は、利用可能な追加データソースに依存するが、そこでは多くが理想的ではない。こうした場合、データのスケーリングがサブグループの性能に与える影響は不安定になる。すなわち、サンプル数を増やしたことによる改善が、学習セットにおける分布シフトの導入によって相殺されるためである。本論文では、医療の文脈においてサブグループの性能を改善するためにデータソースを組み合わせることの限界を検討する。臨床モデルは一般に、異なる病院や入院部門から得た患者の電子カルテ（EHR）データから構成されるデータセットで学習される。2つのデータセット、すなわちeICU Collaborative Research DatabaseおよびMIMIC-IVデータセットにおいて、データの追加がモデルの公平性と性能の双方にとって役に立つことも損なうこともあり、データ選択に関する多くの直感的な方策が信頼できないことを見出す。サブグループの性能を改善するために、モデルに基づく事後的キャリブレーションと、データ中心の追加戦略を比較し、両者を組み合わせることが重要であることを示す。我々の研究は、データに関する伝統的な「より良いデータ」という教義を問い直し、データに基づくアプローチとモデルに基づくアプローチを比較し、組み合わせることで公平性の課題を克服できるのかを検討する。