要旨: グラフニューラルネットワーク(GNN)は、ソーシャルネットワーク分析、化学研究、コンピュータビジョンなどの工学応用に広く採用されている。しかし、その有効性は、同質性(homophily)という前提に内在する問題によって深刻に損なわれる。これは、異なるノード同士が頻繁に接続される非同質性(heterophilic)のグラフでは成立しない。グラフ学習におけるこの根本的な制約に対処するため、まず我々は、実世界のグラフに最近見いだされた単一同質性(monophily)という性質に着想を得て、近傍トランスフォーマ(Neighbourhood Transformers; NT)を提案する。NTは、従来のメッセージパッシングGNNのようにメッセージを中心ノードへ集約するのではなく、各ローカル近傍の中で自己注意(self-attention)を適用するという新しいパラダイムである。この設計により、NTは本質的に単一同質性を認識しており、その表現力が従来のメッセージパッシング枠組みに劣らないことを理論的に保証する。実際の工学的な導入のためにさらに、切り替え可能な注意機構を備えた近傍分割戦略を開発し、NTの空間消費を95%以上、時間消費を最大92.67%削減することで、大規模グラフへの適用可能性を大幅に拡張する。10個の実世界データセット(非同質性グラフ5つと同質性グラフ5つ)に対する大規模実験の結果、NTはノード分類タスクにおいて、既存のあらゆる最先端手法を上回ることが示された。さらに、その優れた性能とドメインをまたいだ適応性が実証されている。本研究の完全な実装コードは、再現性と産業導入を促進するために、https://github.com/cf020031308/MoNT で公開されている。
近傍トランスフォーマー:単系統性(モノフィリー)を意識したグラフ学習のための切り替え可能な注意機構
arXiv cs.LG / 2026/4/13
📰 ニュースIdeas & Deep AnalysisModels & Research
要点
- 本論文は、メッセージパッシングで中心ノードに情報を集約する代わりに、各局所近傍内に自己注意を適用することで単系統性(モノフィリー)をより直接的に扱う、新しいグラフ学習パラダイムであるNeighbourhood Transformers(NT)を提案する。
- NTは本質的にモノフィリーを意識しており、理論的表現力が従来のメッセージパッシング型GNNフレームワークに対してそれより弱くないことが主張されている。
- 大規模グラフで実用化するために、著者らは切り替え可能な注意機構を用いた近傍分割を導入し、空間使用量を95%以上削減し、時間を最大92.67%削減できると報告している。
- 10の実世界データセットでの実験(異質性を持つグラフと同質性を持つグラフの両方を含む)では、NTがノード分類において既存の最先端手法を上回り、さらにドメインをまたいだ適応性も高いことが示されている。
- 再現性の向上と産業応用の可能性を支えるため、著者らは実装コード一式を公開している(MoNTリポジトリ)。




