積の空間における大数の法則の一様法則

arXiv cs.LG / 2026/3/26

📰 ニュースIdeas & Deep AnalysisModels & Research

要点

  • 本論文は、直積(カルテシアン積)空間における大数の法則の一様法則を研究し、VC理論風の一様収束を標準的な設定から拡張する。
  • 論文では、結合分布がその周辺分布の積に関して絶対連続であると仮定するとき、ある事象の族に対して一様の大数の法則が成り立つのは、その族が有限の線形VC次元を持つ場合に限ることを示す。
  • 線形VC次元は、軸に平行な直線(高々1つの座標のみが異なるベクトル)に沿ったシャッタリングによって定義され、古典的VC次元によって常に上から抑えられる一方で、実際にはそれよりもはるかに小さくなり得る。
  • 重要な例として、凸集合は線形VC次元が2であるにもかかわらず、古典的VC次元は次元d≥2の場合に無限大になることが示され、両者のギャップが強調される。
  • 著者らは、標準的な経験平均とは大きく異なる推定器を開発し、そうした平均からの逸脱は避けられないと論じるとともに、定量的なサンプル複雑度の境界を含む未解決問題を強調している。

要旨: 大数の一様法則は、Vapnik--Chervonenkis理論の基礎をなすものであり、それらはVC次元の有限性によって特徴づけられる。本研究では、基礎となる分布が積構造と両立するような仮定のもとで、直積空間における一様収束の現象を調べる。具体的には、分布が、その周辺分布の積に関して絶対連続であることを仮定する。この条件は、積分布、積分布の疎な混合、相互情報量が低い分布など、多くの自然な状況を捉えるものである。
本研究では、この仮定のもとで、一様大数の一法則が事象のある族に対して成り立つのは、その族の線形VC次元が有限である場合に限ることを示す。線形VC次元は、軸に平行な直線上に存在する、破壊された集合の最大サイズとして定義される。すなわち、全ての座標について一致しているが、少なくとも1つの座標においてのみ異なるようなベクトルの集合である。この次元は常に古典的なVC次元以下であるが、任意に小さくなり得る。例えば、
\mathbb{R}^d
における凸集合の族は線形VC次元が2である一方で、そのVC次元はd\ge 2ですでに無限である。我々の証明は、標準的な経験平均推定量から大きく逸脱する推定量に依拠しており、より複雑な構造を示す。そのような標準的な経験平均推定量からの逸脱は、この設定では避けられないことを示す。本論文を通して、いくつかの未解決問題を提案し、特に定量的なサンプル複雑性の境界に焦点を当てる。