自己微分同相によるℝⁿ内のコンパクト集合の移動と、ℝⁿにおけるデータセットの線形分離可能性

arXiv cs.LG / 2026/4/24

📰 ニュースIdeas & Deep AnalysisModels & Research

要点

  • 本論文は、ℝⁿ内のコンパクト集合の有限個の族を、ℝⁿの自己微分同相によって任意の目標領域へ移す理論を提示している。
  • さらに、そのような任意の族に対して、ℝⁿ⁺¹への微分可能な埋め込みが存在し、埋め込まれた像が線形分離可能になることを証明している。
  • 応用として、データサイエンスの文脈で、ℝⁿ内の有限個のデータセットが、Leaky-ReLU・ELU・SELUのいずれかの活性関数を用いた幅nのDNNによって(穏やかな条件の下で)線形分離可能にできることを示している。
  • また、ℝⁿ内の互いに交わらないコンパクトデータセットが有限個ある場合、それらを幅(n+1)のDNNでℝⁿ⁺¹上に線形分離可能にできることを示している。
  • 総じて、本研究は微分同相や埋め込みといった幾何・位相的な自由度を、ニューラルネット分類器に関する分離の保証へ結び付けている。

Abstract

自己微分同相によるn次元多様体におけるコンパクト集合の移動は、それ自体で興味深いだけでなく、データサイエンスにおけるデータ分類への重要な潜在的応用も有する。本論文では、 mathbb{R}^nにおいて有限個のコンパクト集合を、 mathbb{R}^nの微分同相によって任意の目標領域へ移すための理論を提示する。さらに、そのような任意の集まりに対して、それらの像が線形分離可能になるような、 mathbb{R}^{n+1}への微分可能な埋め込みが存在することを証明する。 確立した理論の応用として、適度な条件のもとで、 mathbb{R}^n内の有限個のコンパクトなデータセットを、Leaky-ReLU、ELU、またはSEL U活性化関数を用いた幅nの深層ニューラルネットワーク(DNN)によって線形分離可能にできることを示す。加えて、 mathbb{R}^n内で互いに素な有限個のコンパクトなデータセットは、幅(n+1)のDNNによって mathbb{R}^{n+1}で線形分離可能にできることも示す。