ShapShift：サブグループ条件付きShapley値によってモデル予測のシフトを説明する

要旨: 入力分布の変化は、機械学習モデルの平均予測にシフトを引き起こし得ます。このような予測シフトは、下流のビジネス成果（例: 銀行のローン承認率）に影響を及ぼす可能性があるため、その原因を理解することは重要になり得ます。私たちは \\ours{} を提案します。これは、データの解釈可能な部分集団の条件付き確率の変化に、予測シフトを帰属させるためのシャプレイ値（Shapley value）手法であり、これらの部分集団は決定木の構造によって定義されます。まず、この手法を単一の決定木に適用し、分岐ノードにおける条件付き確率の変化に基づく正確な説明を示します。次に、最も説明力のある木を選択し、残差効果を考慮することで、これをツリーアンサンブルへ拡張します。最後に、新しい目的関数で育成したサロゲート木（代替木）を用いる、モデル非依存の変種を提案し、ニューラルネットワークのようなモデルにも適用できるようにします。厳密な計算は負荷が高くなり得るものの、近似技術により実用的に適用できます。私たちは \\ours{} が、モデルクラスをまたいで予測シフトに対して単純で、忠実で、かつほぼ完全な説明を提供し、動的な環境におけるモデル監視を支援することを示します。