協調学習と最適化における競合者間の誠実さを促す

概要: 協調学習の手法は、単一の主体のデータで学習されたモデルよりも優れた機械学習モデルを学習できる可能性を持っています。しかし多くの場合、このような協調スキームにおける潜在的な参加者は、下流タスクにおける競合相手です。たとえば、それぞれが最良の推奨を提供して顧客を惹きつけようとする企業などです。これは、他の参加者のモデルを損なう不誠実な更新を動機づけてしまい、協調の利点を損なう可能性があります。本研究では、このような相互作用をモデル化するゲームを定式化し、この枠組みにおいて2つの学習課題、すなわち単一ラウンドの平均推定と、強凸目的に対する複数ラウンドのSGDを検討します。プレイヤー行動の自然なクラスに対して、合理的なクライアントは、自身の更新を強く操作することによって学習を妨げるよう動機づけられることを示します。次に、誠実なコミュニケーションを促し、完全な協力と同等の学習品質を保証するメカニズムを提案します。最後に、標準的な非凸のフェデレーテッドラーニングのベンチマークにおいて、提案するインセンティブ設計の有効性を実証的に示します。本研究は、不誠実なクライアントを悪意があると仮定するのではなく、インセンティブと不誠実なクライアントの行動を明示的にモデル化することで、協調学習に対する強いロバスト性保証が可能になることを示しています。