Adam 確率的勾配降下法最適化アルゴリズムに対する一様な事前境界と誤差解析
arXiv cs.LG / 2026/3/20
📰 ニュースIdeas & Deep AnalysisModels & Research
要点
- 本論文は Adam に対する一様な事前境界を証明し、強凸な確率的最適化問題の広範なクラスに対して条件なしの誤差解析を可能にする。
- これまで一様有界性を仮定していた条件付きの結果を、Adam に対する条件なしの保証へと置き換える。
- 著者らはこの境界が強凸な確率的最適化問題（SOP）の広範なクラスに適用可能であることを示し、限定的な設定を超えたAdam に関する理論的理解を拡張している。
- 深層ニューラルネットワークの訓練での Adam の広範な使用を踏まえると、これらの結果は AI システムにおける収束挙動の理論的基盤をより確固たるものにする。
