対称性破壊による任意サブグループ等変性ネットワーク（ASEN）

要約: 対称性を帰納的バイアスとして取り入れること、すなわち等変性として知られるのは、幾何データ（例: グリッド、集合、グラフ）に対する一般化性能をしばしば向上させます。しかし、等変アーキテクチャは通常、事前に選択された対称性のために高度に制約されており、他の対称性を持つデータセットには適用できません。これは、さまざまなデータを等変に処理できる柔軟な、マルチモーダル基盤モデルの開発を妨げます。本研究では、Any-Subgroup Equivariant Network（ASEN）という単一のモデルを構築し、ある補助入力特徴を調整するだけで、同時に複数の群に対して等変であり得るようにします。特に、完全な置換等変性を持つベースモデルから始め、自己同型群がそのサブグループである対称性破れ入力を用いることでサブグループ等変性を得ます。しかし、望ましい自己同型群を持つ入力を見つけることは計算的に困難です。私たちは、正確な対称性破れから近似的な対称性破れへと緩和し、2-閉包の概念を活用して高速なアルゴリズムを導出することでこれを克服します。理論的には、私たちのサブグループ等変性ネットワークが等変MLPを模擬できること、基盤モデルが普遍的であるならばその普遍性が保証されることを示します。経験的には、グラフおよび画像タスクの対称性選択、並びに系列タスクのマルチタスクおよび転移学習で本手法を検証し、複数の置換サブグループに等変な単一のネットワークが、別個の等変モデルおよび単一の非等変モデルの双方よりも優れていることを示します。