プライバシー保護型初期化と正規性に基づく集約による差分プライバシー対応クラスタ化フェデレーテッドラーニング
arXiv cs.LG / 2026/4/23
💬 オピニオンIdeas & Deep AnalysisModels & Research
要点
- この論文は、クラスタ化フェデレーテッドラーニング（CFL）と差分プライバシー（DP）を組み合わせる際の重要な課題として、DPノイズによりクライアント更新が過度にノイジーになり、サーバがクラスタ重心をうまく初期化できない点を扱います。
- 提案手法PINAは2段階の枠組みで、クライアントが軽量なLoRAアダプタを微調整した上で、更新を圧縮したスケッチをプライバシー保護しながら共有し、サーバが頑健なクラスタ重心を構築できるようにします。
- 第2段階では、PINAが正規性に基づく集約メカニズムを用いることで、収束性と全体的な頑健性を高めつつ、CFLの利点を維持します。
- 著者らは、サーバが信頼できない場合でも形式的なプライバシー保証を提供し、ε=2および8のプライバシーバジェットで既存のDP-FL手法より平均2.9%高い精度を示したと報告しています。
- 全体として、この研究は非IIDなデータ分布によりバニラFLが収束・汎化で苦労しやすい、クロスデバイスでの高度に不均一な状況を対象としています。
