有効抵抗リワイアリング: オーバーサクワッシングへの単純なトポロジー訂正
arXiv cs.LG / 2026/3/13
📰 ニュースIdeas & Deep AnalysisModels & Research
要点
- グラフニューラルネットワークにおけるオーバーサクワッシングに対処するため、Effective Resistance Rewiring (ERR) を導入し、有効抵抗をグローバル信号として構造的ボトルネックを識別します。
- ERR は最大の抵抗を持つノードペア間にエッジを追加し、最小の抵抗を持つエッジを削除することで、固定されたエッジ予算の下で長距離通信を改善します。
- 著者らは層間でノード埋め込みのコサイン類似度を追跡してリワイアリングの影響を分析し、埋め込み幾何の変化と改善を区別します。
- ホモフィリックおよびヘテロフィリックグラフ(DirGCN を含む)での実験は、ERR が結合性と信号伝搬を改善する一方、深層モデルで表現の混合を加速する可能性があることを示します。さらに PairNorm などの正規化と組み合わせると、このトレードオフを安定化し性能を向上させます。
本文: arXiv:2603.11944v1 アナウンス種別: 新規 要旨: グラフニューラルネットワークは、指数的に拡大する近傍の情報がごく少数の構造的ボトルネックを通過しなければならないオーバーサクワッシングのため、長距離依存関係を捉えるのが難しい。最近のリワイアリング手法はこの制限を緩和しようとするものの、多くは局所的な指標(例:曲率)に依存しており、情報の流れを制約する全体的な結合性制約を見落とすことがある。われわれはEffective Resistance Rewiring (ERR) を導入する。ERR は有効抵抗をグローバル信号として用い、構造的ボトルネックを検出する。ERR は、最大抵抗を持つノードペア間にエッジを追加し、最小抵抗のエッジを削除することで、固定されたエッジ予算の下で弱い通信経路を強化する。手順はリワイアリング予算を超えるパラメータを必要とせず、ノードペア間のすべての経路を集約する単一のグローバル指標に依存している。GCN モデルでの予測性能を超えて、リワイアリングがメッセージ伝播に与える影響を分析する。層間でノード埋め込みのコサイン類似度を追跡することにより、初期ノード特徴と学習された表現の関係がメッセージ伝搬中にどのように進化するかを、リワイアリングの有無と比較しながら検討する。この分析は、改善が埋め込み幾何の変化から生じるものか、それとも長距離通信の改善から来るものかを判断するのに役立つ。ホモフィリックおよびヘテロフィリックなグラフ、DirGCN を含む指向設定での実験は、オーバーサクワッシュとオーバースムージングのトレードオフを明らかにし、オーバースムージングは層を越えた表現の多様性の喪失に対応する。抵抗ガイドのリワイアリングは結合性と信号伝播を改善するが、深いモデルでは表現の混合を加速させる可能性がある。PairNorm などの正規化技術と ERR を組み合わせると、このトレードオフを安定化し、性能を向上させる。




