DeepWeightFlow：ニューラルネットワーク重みを生成するための再ベースライン付きフローマッチング

Abstract

ニューラルネットワークの重みのための効率的かつ効果的な生成モデルを構築することは、非常に大きな関心を集めている研究分野である一方、現代のニューラルネットワークの高次元の重み空間とそれらが持つ対称性によって生じる課題に直面している。これまでのいくつかの生成モデルは、特にResNetやViTのようなより大規模なモデルにおいて、ニューラルネットワークの重みの一部のみを生成することに限られている。重み全体を生成できるものでも、生成速度に課題があるか、生成したモデルに対する微調整（finetuning）が必要になる。 本研究では、DeepWeightFlow を提案する。DeepWeightFlow は、重み空間上で直接動作するフローマッチング（Flow Matching）モデルであり、さまざまなアーキテクチャ、ニューラルネットワークのサイズ、データモダリティに対して、多様で高精度なニューラルネットワークの重みを生成する。DeepWeightFlow が生成するニューラルネットワークは、良好に動作させるために微調整を必要とせず、大規模なネットワークへもスケール可能である。生成的な重みモデルの文脈において、ニューラルネットワークの置換対称性が与える影響を考慮し、より大きなモデルサイズに対する生成効率を改善するために、我々はニューラルネットワークの正準化に Git Re-Basin と TransFusion を適用する。生成されたネットワークは転移学習において優れており、数百のニューラルネットワークからなるアンサンブルを数分で生成でき、拡散ベースの手法を大きく上回る。DeepWeightFlow モデルは、多様なニューラルネットワーク群をより効率的かつスケーラブルに生成するための道を切り拓く。