AI Navigate

FederatedFactory: 極端に非IIDな分散シナリオ向けの生成型ワンショット学習

arXiv cs.LG / 2026/3/18

📰 ニュースIdeas & Deep AnalysisModels & Research

要点

  • FederatedFactoryは、依存関係ゼロのフェデレーテッドラーニングフレームワークを導入し、連合の単位を識別モデルから生成的事前分布へと移行させ、単一の通信ラウンドで生成モジュールを交換できるようにする。
  • 無から普遍的にクラスバランスのとれたデータセットの合成を可能にし、非IID設定における勾配の衝突と外部事前バイアスを排除する。
  • MedMNIST、ISIC2019、CIFAR-10を用いた評価は、本アプローチが中央集約型の上限性能を回復することを示し、CIFAR-10の精度は11.36%から90.57%へ、ISIC2019のAUROCは90.57%へ回復した。
  • このフレームワークは、特定の生成モジュールを決定論的に削除することで、正確なモジュール単位の忘却をサポートする。
  • FLにおける事前学習済みファウンデーションモデルへの依存に挑戦し、汎用のゼロ依存代替手段を提供する。

要約: Federated Learning (FL) はデータ主権を損なうことなく分散最適化を可能にします。しかし、局所ラベル分布が相互に排他的な場合、勾配の衝突となる最適化軌跡のため標準的な重みの集約は機能しません。多くの場合、FL 手法は事前学習済みの基盤モデルに依存し、現実には成りえない前提を導入します。我々は FederatedFactory を導入します。これは、連邦の単位を識別可能なパラメータから生成的事前分布へ反転させるゼロ依存フレームワークです。生成モジュールを1回の通信ラウンドで交換することにより、私たちのアーキテクチャは無から普遍的にクラスバランスのとれたデータセットを合成することを可能にし、勾配の衝突と外部の事前バイアスを完全に排除します。MedMNIST や ISIC2019 を含む多様な医用画像ベンチマークでの評価は、アプローチが中央集権的な上限性能を回復することを示しています。病的な異質性の下で、基準となる精度を崩壊した 11.36% から 90.57% へ 引き上げ、CIFAR-10 の AUROC を 90.57% に回復します。さらに、このフレームワークは特定の生成モジュールを決定論的に削除することによる正確なモジュール単位のアンラーニングを可能にします。