EmbedPart: 埋め込みに駆動されたスケーラブルなグラフニューラルネットワーク学習のためのグラフ分割

arXiv cs.LG / 2026/4/2

📰 ニュースIdeas & Deep AnalysisModels & Research

共有:

要点

本論文は、巨大グラフに対するグラフニューラルネットワーク（GNN）学習をスケールさせるという課題に取り組み、マシン間通信を最小化しつつ負荷を均衡させるためにグラフを複数マシンに分割する。
そのために、著者らは、元の不規則なグラフ構造を直接分割するのではなく、実際のGNN学習ワークロードによって生成される密なノード埋め込みをクラスタリングする「EmbedPart」という埋め込み駆動の分割手法を提案する。
著者らは、EmbedPartがMetisに対して100倍超の高速化を実現しつつ、分割品質は競争力を維持しており、その結果として分散GNN学習がより速くなることを報告している。
EmbedPartはグラフ更新をサポートし、効率的な再分割が可能なように設計されており、データ局所性を改善して単一マシンでの学習を高速化するためのグラフ再順序付けにも利用できる。

概要: グラフニューラルネットワーク（GNN）は、グラフ構造化データに対する学習で広く用いられていますが、巨大なグラフに対するGNN学習のスケーリングは依然として難題です。スケーラブルな分散学習を可能にするために、グラフは複数のマシンにまたがって配布されるように、より小さなパーティションへと分割されます。これにより、マシン間通信を最小化しつつ、計算負荷を均等化します。実際には、既存のパーティション分割アプローチは、パーティション分割のオーバーヘッドと分割品質の間に本質的なトレードオフがあるという課題に直面します。そこで本研究では、速度と品質の両方を実現する、埋め込み駆動のパーティション分割手法である EmbedPart を提案します。非正則なグラフ構造に直接作用する代わりに、EmbedPart は、実際のGNN学習ワークロード中に生成されるノード埋め込みを活用し、これらの密な埋め込みをクラスタリングしてパーティション分割を導出します。EmbedPart は、Metis に対して 100 倍以上の高速化を達成しつつ、競争力のあるパーティション品質を維持し、分散GNN学習も加速します。さらに、EmbedPart はグラフ更新と高速な再パーティション分割を自然にサポートし、データ局所性の改善と単一マシンでのGNN学習の高速化を目的としたグラフ順序付けにも適用できます。非正則なグラフ構造からのパーティション分割を、密な埋め込みへと切り替えることで、EmbedPart はスケーラブルかつ高品質なグラフデータ最適化を可能にします。