複素SGDと再現核ヒルベルト空間における方向バイアス
arXiv cs.LG / 2026/4/28
📰 ニュースIdeas & Deep AnalysisModels & Research
要点
- 本論文は、複素値のパラメータに対応した新しい確率的勾配降下法（複素SGD）を提案し、複素ニューラルネットワークなどの複素値最適化問題を扱えるようにします。
- 複素SGDについて、解析性の制約を課さずに、実数値の場合に対応する仮定のもとで収束保証を提示し、同様に複素勾配降下法にも結果を拡張します。
- 実数設定で知られている「方向バイアス」に関する性質が、カーネル回帰において複素設定でも成り立つことを示します。
- 複素再現核ヒルベルト空間を用いたカーネル回帰の実験により、複素SGDが、適切な関数空間（Fock空間やHardy空間）からスーパオシレーション関数やブラスシュケ積を、損失関数の選択に対する最適解として回復できることを示します。
