Abstract
グラフニューラルネットワークに対するグラフニューラル接線カーネル（graph neural tangent kernels）は、原理的な無限幅理論を与えますが、グラフモデルに固有の基本的な制約も引き継ぎます。それは、モデルが対の（pairwise）構造しか見ないことです。多くのリレーショナルなシステムには、より自然には単体複体（simplicial complexes）で表される高次の相互作用が含まれています。本稿では、辺の特徴量に対する単体メッセージパッシングのための無限幅カーネルであるトポロジカルニューラル接線カーネル（Topological Neural Tangent Kernel, TopoNTK）を提案します。TopoNTKは、共有された頂点を通じたグラフ的な結合を捉える下位ホッジ相互作用（lower Hodge interactions）と、充填された単体（filled simplices）を通じた結合を捉える上位ホッジ相互作用（upper Hodge interactions）を組み合わせます。これにより、グラフカーネルでは見えないトポロジーに対してカーネルが敏感になります。同じグラフを持ちながら充填された単体が異なる複体は、異なるカーネルを誘導できます。表現力（expressivity）に加えて、ホッジ構造はカーネルに解釈可能な学習の幾何（learning geometry）を与えます。辺の信号は、勾配のような成分（gradient-like）、調和（harmonic）、局所的な循環（local circulation）の成分に分解され、TopoNTKのスペクトルが各成分がどれほど速く学習されるかを決定します。これはスペクトルバイアスのトポロジー的な形をもたらします。すなわち、大きな固有値モードに整列した成分は素早く学習され、残差チャネルを通じて保持される大域的な調和モードはしばしば小さな固有値に位置し、よりゆっくり学習されます。われわれは、表現力、ホッジ整合（Hodge-alignment）、スペクトル的学習（spectral learning）、安定性（stability）に関する性質を証明し、合成の単体タスクおよびDBLPの高次リンク予測でそれらを検証します。その結果は、トポロジーが単なる追加の構造ではなく、リレーショナル学習をより忠実にし、解釈可能にし、かつ効果的にするための座標（coordinates）を提供しうることを示しています。
