シミュレーションされた攻撃パターンによる連合学習における動的フリーライダー検出

要旨: フェデレーテッドラーニング（FL）は、プライベートデータを共有せずにローカル更新を集約することで、複数のクライアントが協調してグローバルモデルを学習できるようにします。しかしながら、FLはしばしばフリーライダーの課題に直面します。フリーライダーとは、実際の学習を行わずに偽のモデルパラメータを提出し、貢献せずにグローバルモデルを入手するクライアントです。Chenらは、モデルパラメータの重みの更新頻度（WEF: weight evolving frequency）に基づくフリーライダー検出手法を提案しました。この検出アプローチは、プロキシデータセットも事前学習も不要であるため、実用的なフリーライダー検出手法の有力な候補です。とはいえ、初期ラウンドでは誠実に振る舞い、その後フリーライディングに切り替える「動的」フリーライダーの検出が困難であり、特にデルタ重み攻撃（delta weight attack）や、我々が新たに提案する適応的WEFカモフラージュ攻撃（adaptive WEF-camouflage attack）のようなグローバルモデル模倣型攻撃のもとでは、その傾向が顕著になります。本論文では、サーバ側で、事前にブロードキャストされたグローバルモデルを用いて、潜在的なグローバルモデルベース攻撃のWEFパターンをシミュレートし、提出されたWEFパターンがシミュレートしたものに類似するクライアントを特定する、新しい検出手法S2-WEFを提案します。さまざまなフリーライダー攻撃戦略に対処するため、S2-WEFはさらに、シミュレーションに基づく類似度スコアと、提出されたWEF同士の相互比較から算出される偏差スコアを組み合わせ、二次元クラスタリングとスコアごとの分類により善良なクライアントとフリーライダーを分離します。この手法により、プロキシデータセットや事前学習を用いずに、学習中にフリーライダーへ遷移するクライアントを動的に検出できます。3つのデータセットと5種類の攻撃タイプにわたる大規模な実験を行い、S2-WEFが既存手法よりも高い頑健性を達成することを示します。