DeRelayL：持続可能な分散型リレーログ学習

要旨: ビッグデータの時代において、大規模な機械学習モデルはさまざまな分野に革命をもたらし、目覚ましい進歩を促進してきました。とはいえ、大規模モデルの学習には高い財務的・計算的資源が必要であり、これはごく一部のテクノロジー・ジャイアントと、十分な資金を持つ機関にしか手が届きません。この状況では、有用なデータの真の創り手であるモバイルユーザーなどの一般ユーザーが、障壁のために十分に恩恵を受けられないことが多い一方で、現在の大規模モデルへのアクセス手法は、ユーザーの所有権を制限するか、あるいは持続可能性に欠けています。拡大しつつあるこのギャップは、一般ユーザーがモデルを学習し共有できるようにする、協調的なモデル学習アプローチの緊急の必要性を浮き彫りにしています。しかし、既存の協調的モデル学習のパラダイム、特にフェデレーテッドラーニング（FL）は、主としてデータのプライバシーと、グループ単位でのモデル集約に焦点を当てています。そこで本論文は、この問題に対処するため、非中央集権的リレー学習（DeRelayL）という新しい学習パラダイムを提案します。これは、許可不要の参加者がリレーのような形でモデル学習に貢献し、モデルを共有できる、持続可能な学習システムです。具体的には、本論文ではDeRelayLのアーキテクチャとワークフローを提示し、その持続性を保証するためのインセンティブ機構を設計し、有効性を示すために理論的解析と数値シミュレーションを行います。