Wasserstein制約付きデータ摂動によるブラックボックス脆弱性の評価

Abstract

産業界における機械学習（ML）ツールの大規模な使用は、説明可能なモデルの欠如やブラックボックスアルゴリズムの使用といった重大な課題を伴います。私たちは、入力変数の分布の変動に対するMLモデルの応答の分析に最適輸送理論を適用することでこの問題に対処します。ワッサーシュタイン距離の意味で、与えられた制約を満たす最も近い分布を見つけ、それがモデルの挙動に与える影響を検討します。さらに、この射影分布の収束結果を確立し、回帰および分類設定の実例と実世界データセットを用いて私たちのアプローチを示します。