グラフトランスフォーマにおける距離ミスアライン学習と、適応的なグラフ対応制御

要旨: グラフ・トランスフォーマは情報を大域的に混合できますが、その柔軟性は失敗モードも生み出します。あるタスクでは長距離の通信が必要な一方で、別のタスクでは局所的な相互作用の方が適している場合があります。本研究では、文脈付き確率的ブロックモデル（contextual stochastic block model）グラフ上の合成ノード分類ベンチマークを通じてこの点を調べます。ここでは、ラベルは局所と遠方のシグナルの制御可能な混合によって生成されます。距離不整合（distance-misaligned）による学習を、ラベルにとって重要な情報が存在する場所と、モデルがグラフ距離にわたって通信を割り当てる場所との不一致として定義します。このベンチマークにおいて、我々は3つの点を見いだします。第一に、望ましいグラフ距離のバイアスは、タスクの局所性に応じて体系的に変化します。第二に、タスク側の距離目標に対してオフラインでアクセスできるオラクルの適応コントローラは、ほぼ全レジームにわたって最良の固定バイアスに近い性能を達成し、さらに混合タスクおよび局所タスクにおいて中立的なベースラインよりも大幅に改善します。第三に、タスク非依存のゼロギャップ（zero-gap）コントローラはより弱く、適応それ自体だけでは不十分であり、制御目標が重要であることを示します。これらの結果は、距離別の診断がグラフ・トランスフォーマの失敗を理解するのに有用であり、またグラフを意識した制御の設計にも役立つことを示唆しています。