デフレーションなしの最適スコアリング

要旨: Sparse Optimal Scoring（SOS）は、弾性ネット正則化によって特徴選択を可能にするよう線形判別分析を言い換え（再定式化）し、特徴数が観測数を上回るような高次元設定に適したものにします。既存のほとんどのSOS手法は、判別ベクトルを逐次的に計算するデフレーション（減算）ベースの戦略を用いていますが、これにより誤差が伝播して劣った解が生じうるという問題があります。本研究では、明示的なグローバル直交性制約の下で、すべての判別ベクトルを同時に推定する新しいアプローチを提案します。これをデフレーション不要のSparse Optimal Scoring（DFSOS）と呼びます。DFSOSは、直交性制約付き最適化とBregmanイテレーションを組み合わせ、スコアリングベクトル、判別ベクトル、そして直交性の強制のための要素に問題を分解し、扱いやすい部分問題へと落とし込みます。緩やかな条件のもとで、増加ラグランジアンの停留点への収束を確立します。合成データおよび実世界の時系列データを用いた大規模な実験により、DFSOSが既存のデフレーションベース手法と同等、またはそれ以上の分類精度を達成することを示します。これらの結果は、デフレーション不要のアプローチが、高次元問題におけるスパース判別分析のための堅牢で効果的な枠組みを提供しうることを示唆しています。