Abstract
本論文では、一定の学習率を用いた確率的勾配降下法（SGD）による分位点推定のための漸近理論を構築する。分位点損失関数は滑らかでも強い凸性も持たない。従来の観点や手法を超えて、分位点SGDの反復を、消し込み不可能で（irreducible）、周期的で、正再帰的なマルコフ連鎖として捉える。ここで、この連鎖は、任意に固定された初期化にかかわらず、その固有の定常分布へと循環的に収束する。定常分布の厳密な形を導くために、定常方程式を利用して、その特性関数の構造を解析する。さらに、モーメント母関数（MGF）と裾確率（tail probabilities）に対して密な（tight）評価を導出する。以上のアプローチを統合し、学習率 eta
ightarrow0 において、中心化され標準化された定常分布がガウス分布に収束することを証明する。この結果は、一定の学習率を用いる分位点SGD推定量に対して、最初の中心極限定理（CLT）型の理論的保証を与える。さらに、統計的保証つきで推定量の信頼区間を構成するための再帰的アルゴリズムを提案する。数値実験により、オンライン推定と推論手続きの有限標本における満足できる性能が示される。本研究で開発した理論的手法は、特に強く凸でも滑らかでもない設定において、マルコフ連鎖として定式化される一般のSGDアルゴリズムを調べる際に独立した関心をもつものである。
