グループ反事実説明による手続き的公平性

要旨: 機械学習研究における公平性は主に Equalized Odds のような結果指向の公平基準に焦点を当ててきた一方で、モデルが予測に到達する過程を扱う手続き指向の公平性には比較的注意が払われていなかった。手続き的公平性を放置すると、保護された異なるグループ間で異なる説明が生成され、信頼が損なわれる可能性がある。本研究では、Group Counterfactual Integrated Gradients (GCIG) を導入する。これは真のラベルを条件としてグループ間の説明の不変性を課す、インプロセシング正則化フレームワークである。各入力について、GCIG は複数の Group Conditional baselines に対して説明を計算し、訓練中のこれらの寄与度のグループ間ばらつきを抑制する。GCIG は手続き的公平性を『グループ反事実説明の安定性』として形式化し、予測のみを制約する既存の公平性目的を補完する。我々は GCIG を六つの最先端手法と経験的に比較し、その結果 GCIG がグループ間の説明の格差を大幅に低減しつつ、競争力のある予測性能と精度–公平性のトレードオフを維持することを示した。さらに、グループ間でモデルの推論を整合させることは、結果の平等性を超えた公正性を進展させる、原理的で実践的な道を提供することを示している。