確率近似法における重尾分布・長距離依存ノイズ：有限時間解析

Abstract

確率近似（SA）は、強化学習と最適化において広く応用されている基本的な反復フレームワークです。古典的な解析は通常、有界な二次モーメントを持つマルチンゲール差分ノイズまたはマルコフノイズに依存します。しかし、金融や通信を含む多くの実践的な設定では、裾が重く、時間的依存性を持つノイズ（LRDノイズ）に頻繁に直面します。本研究では、これらの非古典的ノイズモデルの下で、強く単調な作用素の根を求めるためのSAを研究します。両方の設定において、初めて有限時間モーメント境界を確立し、裾の重さと時間的依存性の影響を定量化する明示的な収束速度を提供します。私たちの解析は、反復を変更せずにノイズの影響を正規化するノイズ平均化の議論を用います。最後に、一般的なフレームワークを確率的勾配降下法（SGD）と勾配プレイに適用し、数値実験を通じて有限時間解析を裏付けます。