極端な非IIDおよびグローバルクラス不均衡の下でのフェデレーテッド・アクティブラーニング

フェデレーテッド・アクティブラーニング（FAL）は、プライバシー制約の下でアノテーションコストを削減することを目指しますが、グローバルなクラス不均衡が著しく、クライアントが高度に異質な現実的な設定ではその有効性が低下します。我々は、FALにおけるクエリモデルの選択を体系的に検討し、中心的な洞察を明らかにしました。すなわち、マイノリティクラスに対して特にクラスをより均等にサンプリングできるモデルは、最終的な性能を一貫して高めることが分かりました。さらに、グローバルモデルによるクエリは、グローバル分布が高度に不均衡で、クライアントデータが比較的均質な場合にのみ有益です。そうでない場合はローカルモデルが望ましい、という結論です。これらの知見に基づき、適応的なクラス公正性FALフレームワークであるFairFALを提案します。FairFALは(1) 軽量な予測差異を用いてグローバル不均衡とローカル-グローバル乖離を推定し、グローバルとローカルのクエリモデルを適応的に選択できるようにします； (2) グローバル特徴を用いたプロトタイプ誘導の擬似ラベリングを実施し、クラス認識型のクエリを促進します； (3) k-center 再精練を用いた二段階の不確実性・多様性を考慮したバランスサンプリング戦略を適用します。5つのベンチマークにおける実験では、FairFALが長尾かつ非IID設定の下で一貫して最先端のアプローチを上回ることが示されています。コードは https://github.com/chenchenzong/FairFAL で公開されています。