SHAP分析における機械学習モデルの比較分析

arXiv cs.LG / 2026/4/9

💬 オピニオンIdeas & Deep AnalysisTools & Practical UsageModels & Research

共有:

要点

本論文は、ブラックボックス型の機械学習モデルがますます一般的になっている一方で解釈が難しいことを指摘し、予測を特徴（フィーチャ）単位で説明するためにSHAP（SHapley Additive exPlanations）を用いることの動機を示している。
SHAP値の解釈は基盤となる特定のモデルに依存するため、SHAP分析に関する単一の普遍的な手順は存在しないことを述べている。
著者らは、異なる機械学習モデルとデータセットにわたるSHAP分析を比較し、SHAP出力の解釈のしかたに含まれるニュアンスを特徴づけるための調査を行っている。
本研究には、多クラス分類問題向けにウォーターフォールプロットを拡張する新しい一般化が含まれており、クラス／サンプルごとの寄与の内訳をより適切に可視化できるようにしている。