機械学習支援による高次元行列推定

Abstract

共分散行列や精度行列を含む高次元行列の効率的な推定は、現代の多変量統計における基礎的な柱です。既存の研究の多くは、推定量の理論的性質（たとえば、一貫性や疎性）に主として焦点を当ててきましたが、高次元設定に固有の計算上の困難さは、ほとんど見過ごされてきました。データ駆動型の構造を古典的な最適化アルゴリズムに統合する、学習に基づく最適化手法における最近の進展に動機づけられ、私たちは機械学習によって支援された高次元行列推定を探究します。具体的には、高次元行列推定の最適化問題に対して、まず線形化交互方向乗数法（Linearized Alternating Direction Method of Multipliers: LADMM）に基づく解法手順を提示します。次に、学習可能なパラメータを導入し、反復スキームにおける近接作用素をニューラルネットワークでモデル化することで、推定精度を向上させ、収束を加速します。理論的には、まずLADMMの収束を証明し、その後、再パラメータ化された対応物について、収束性、収束率、および単調性を確立します。重要な点として、再パラメータ化されたLADMMはより速い収束率を享受することを示します。さらに、本提案の再パラメータ化の理論と手法は、高次元の共分散行列と精度行列の両方の推定に適用可能です。異なる構造と次元をもつ高次元行列に対して、いくつかの古典的な最適化アルゴリズムと比較することで、提案手法の有効性を検証します。