連合型多対一ホップフィールドモデルによる連想ニューラルネットワーク

要旨：フェデレーテッドラーニングは生データを共有せずに協調的な学習を可能にしますが、クライアント間の異質性とストリーミング分布の変化の下で苦戦します。分布のドリフトと新規データは収束を妨げ、忘却を引き起こすことがあります。私たちは、異種で継続的な設定において共有のアーキタイプを学習する、フェデレーテッド・アソシエイティブ・メモリフレームワークを提案します。クライアントデータは独立していますが必ずしもバランスが取れているとは限りません。各クライアントは経験を低秩のヘビアン演算子としてエンコードし、それを中央サーバへ送信してグローバルアーキタイプへ集約・因子分解します。このアプローチはプライバシーを保ち、中央集権的なリプレイバッファを回避し、小さくノイズの多い、または継続的に進化するデータセットに対して頑健です。我々は集約を低秩＋ノイズのスペクトル推論問題として定式化し、検出可能性と検索頑健性の理論的閾値を導出します。エントロピーに基づく制御器は、ストリーミング状況における安定性と可塑性のバランスを取ります。異質なクライアント、ドリフト、および新規性を伴う実験は、グローバルアーキタイプの再構成と連想検索の改善を示し、フェデレーテッド・コンソリデーションのスペクトル的見解を支持します。