被覆（カバリング）とトポロジカルな重み事前分布による再パラメータ化
arXiv cs.LG / 2026/4/28
💬 オピニオンIdeas & Deep AnalysisModels & Research
要点
- 本論文は、被覆写像を用いて、非自明なトポロジーを持つ潜在空間に対してVAEの再パラメータ化トリックを一般化する。
- 被覆写像は測度論的に扱えるため（さらに一定の測度保存条件が成り立つ場合）、プッシュフォワード密度間のKLダイバージェンスに関する不等式を導出でき、潜在多様体がトポロジー的に複雑でもVAEのELBO中のKL項を解析的に扱える。
- 提案手法は、リー群上での再パラメータ化（指数写像を「通す」形）に近いが、それを包含し得る形で位置づけられ、全域微分同相が不要なより一般のトポロジーを扱える。
- 検証として、リー群ではないクラインの壺トポロジーを潜在空間にもつKleinVAEを構築し、人工データセットを学習できることを示す。
- さらに、位相を反映した生成モデルをベイズ学習における重み事前分布として用いる可能性を論じ、特にクラインの壺多様体が関連すると示唆されてきた畳み込みビジョンモデルへの適用に触れている。
