離散的に観測されたデータに対するノンパラメトリック共分散関数推定の理論

要旨: 本研究では、d次元領域上の離散的な位置で雑音を含む形で観測された関数データに対して、非パラメトリックな共分散関数推定を扱う。離散的に観測されたデータから共分散関数を推定することは、特に多次元の場合において難しい非パラメトリック問題である。なぜなら、共分散関数は積領域上で定義されるため、次元の呪いの影響を受けるからである。この動機により、深層学習推定器のような適応的推定器の利用が考えられる。しかし、既存の理論結果は主として明示的な解析的表現をもつ推定器に限られており、一般的な学習ベース推定器の性質は十分に理解されていない。そこで本研究では、疎な観測レジームと密な観測レジームの両方に対して統一的に適用できる、広いクラスの学習ベース推定器に関するオラクル不等式を確立し、さらにいくつかの共分散関数のクラスに対する深層学習推定器の収束レートを導出する。得られたレートは、古典的な非パラメトリック回帰と同様に、構造的適応によって次元の呪いを緩和できることを示唆している。さらに、学習ベース推定器の収束レートを、いくつかの既存手法と比較する。1次元の滑らかさクラスでは、深層学習推定器は劣適応（サブオプティマル）であるが、局所線形平滑化推定器はより速いレートを達成する。一方、構造化された関数クラスでは、深層学習推定器は多対数因子までの最小クラス（ミニマックス）レートを達成するのに対し、局所線形平滑化推定器は劣適応である。これらの結果は、共分散関数推定において特有の適応性と分散のトレードオフを明らかにする。