差分プライバシー下における連合学習の公平性を意識した分類

要旨: プライバシーとアルゴリズムの公正性は、現代の機械学習において2つの中核的な課題となっている。各々は別々に急速に成長する研究分野として現れてきたものの、それらの共同の効果は比較的十分に調べられていない。本論文では、データが複数のサーバに分散されている連合学習の設定において、分類に対する差分プライバシーと公正性の共同的な影響を体系的に研究する。連合差分プライバシーの下で、人口統計上の格差に制約を課した分類を対象として、我々は2段階のアルゴリズム、すなわちFDP-Fairを提案する。さらに、サーバが1台のみの特別な場合には、計算負荷の低い代替手段として、単純でありながら強力なアルゴリズムであるCDP-Fairも提案する。穏やかな構造的仮定の下で、プライバシー、公正性、過剰リスクの制御に関する理論的保証が確立される。特に、私的な公正性を考慮した過剰リスクの原因を、a) 分類の固有コスト、b) 私的分類のコスト、c) 非私的な公正性のコスト、d) 私的な公正性のコストに切り分ける。理論的な知見は、合成データセットおよび実データセットの双方に対する大規模な数値実験によって補完され、設計したアルゴリズムの実用性が示される。