注入性（Injectivity）保証付きバイリプシッツ・オートエンコーダ
arXiv cs.LG / 2026/4/9
💬 オピニオンSignals & Early TrendsIdeas & Deep AnalysisModels & Research
要点
- 本論文は、エンコーダの非注入性が正則化オートエンコーダにおける主要なボトルネックであり、その結果として収束が不十分になり、潜在表現が歪むと主張する。
- 「許容される（admissible）正則化」を形式化し、データ分布が変化しても正則化が頑健に機能するための十分条件を提示する。
- 提案するバイリプシッツ・オートエンコーダ（BLAE）は、病的な局所最小値を避けるための分離基準（separation criterion）を用いて、注入性を保証する正則化スキームを追加する。
- BLAEはさらに、マニフォールドの幾何構造の保持をより良くし、分布ドリフト下での頑健性を高めるために、バイリプシッツ緩和（bi-Lipschitz relaxation）を用いる。
- 複数のデータセットにおける実験により、BLAEは、サンプリングの疎さや分布シフトを含む条件下でもマニフォールド構造を維持する点で、従来手法より優れていることが示され、付随するコードはGitHubで公開されている。
