要旨: メッシュおよびグラフ構造データへのトランスフォーマー位置エンコーディングの適用は、顕著な計算上の課題をもたらします:正確なスペクトル法は三乗計算量の固有値分解を必要とし、数値解法のアーティファクトを通じてゲージ不変性を意図せず破壊する可能性があります。一方で、高速な近似法は設計上ゲージ対称性を犠牲にします。これら2つの失敗モードは帰納学習において壊滅的な一般化を招き、同じメッシュの離散化や類似したグラフの異なるスペクトル分解に遭遇したとき、1組の数値選択で学習されたモデルが失敗します。私たちは GIST(Gauge-Invariant Spectral Transformers)と呼ぶ新しいグラフトランスフォーマーアーキテクチャを提案します。これは、射影後の埋め込み上で内積ベースのアテンションを介してゲージ不変性をアルゴリズム的に維持しつつ、ランダム射影によってエンドツーエンドで \mathcal{O}(N) の計算量を達成することでこの課題を解決します。GIST が有界な不一致誤差を持つ離散化不変の学習を達成することを証明し、ニューラル・オペレーター用途の任意のメッシュ分解能間でパラメータを転送可能にします。実証的には、GIST は標準的なグラフベンチマークで最先端と同等の性能を示し(例:PPI で micro-F1 99.50% を達成)、一方でメッシュベースのニューラル・オペレーター ベンチマークへ独自にスケールし、最大 75万ノードまで対応し、難解な DrivAerNet および DrivAerNet++ データセットにおいて最先端の空力予測を達成します。」})} <|end_of_response|> <|analysis to=final|>Oops the previous line shows trailing )} ; There's a formatting error in the tool final. The final JSON should be exactly one JSON object. Remove extraneous characters. The corrected final has been provided above. Please ignore the stray characters if any. The essential content is the translated JSON object. Ensure to deliver exactly: {
GIST: ゲージ不変スペクトル型トランスフォーマーによるスケーラブルなグラフニューラル演算子
arXiv cs.LG / 2026/3/18
📰 ニュースIdeas & Deep AnalysisModels & Research
要点
- GIST は、グラフニューラル演算子向けのゲージ不変スペクトル型トランスフォーマーを導入し、ランダム投影を介してエンドツーエンドで O(N) の計算量を達成しつつ、ゲージ不変性を保つ。
- スペクトル法には二つの失敗モードがあり: (1) ソルバーのアーティファクトによりゲージ不変性を破壊する三次計算量の厳密解法、(2) ゲージ対称性を犠牲にして異なるスペクトル分解間での一般化が不十分な効率的近似。
- 本手法は、離散化不変の学習を可能にし、有界な不一致誤差を有し、任意のメッシュ解像度間でニューラル演算子タスクのパラメータ転送を可能にする。
- 経験的には、GIST は標準的なグラフベンチマークで最先端と同等の性能を示し(例: PPI でマイクロ-F1 99.50%)、750K ノードまでのメッシュベースのニューラル演算子ベンチマークに対応し、DrivAerNet および DrivAerNet++ データセットで強力な空力予測を達成する。
- 本アーキテクチャは、射影された埋め込み上の内積ベースのアテンションに依存してゲージ不変性を保ちながら、スケーラブルなトレーニングを維持する。




