連合学習における汎化誤差を抑えるための階層型サンプリング枠組み
arXiv cs.LG / 2026/5/6
📰 ニュースIdeas & Deep AnalysisModels & Research
要点
- 本論文は階層型連合学習（HFL）向けに、Wasserstein距離を用いて期待汎化誤差を解析する階層型サンプリングの枠組みを提案する。
- 階層的なデータサンプリングを多層ツリー構造としてモデル化し、損失関数のLipschitz仮定のもとでクライアント間データの依存関係を反映したWassersteinベースの汎化境界を導出する。
- supersample（スーパーサンプル）構成により、サンプリングツリーの単一ノード変更に対する学習アルゴリズムの感度を測定する。
- 有界損失の場合に、連合学習の構造を活用して既存の条件付き相互情報量（CMI）に関する最先端の境界を一般化し、かつ厳密に含意する。
- Differential Privacyの仮定と組み合わせることでアルゴリズム的プライバシーに基づく汎化境界が得られ、さらにGaussian Location Model（GLM）で境界の厳密さ（タイトさ）を検証する。
