パラメトリック・ガウス・メッセージパッシングによる線形モデルにおけるL1正則化パス

arXiv cs.LG / 2026/4/21

📰 ニュースDeveloper Stack & InfrastructureModels & Research

要点

  • 本論文は、L1正則化されたカルマンスムージング、線形SVM、LASSOなどを統一的に扱う状態空間の枠組みで、L1正則化パスを計算する方法を扱います。
  • 独立変数へのL1正則化に適用するものと、従属変数へのL1正則化に適用するものの2つの、互いにデュアルなアルゴリズムを提案します。
  • 提案手法の核は、関連する因子グラフ上で行うパラメトリック・ガウス・メッセージパッシング(カルマン型のフォワード・バックワード再帰)です。
  • 提案手法は幅広い適用可能性があり、しばしば行列積のみで済むため、条件によっては従来手法と比べて計算量面で競争力があると主張しています。

概要: 本論文は、状態空間設定におけるL1正則化パスの計算を考察する。これには、L1正則化カルマンスムージング、線形SVM、LASSOなどが含まれる。本論文では互いに双対な2つの新しいアルゴリズムを提案する。第1のアルゴリズムは独立変数のL1正則化に適用され、第2のアルゴリズムは従属変数のL1正則化に適用される。提案アルゴリズムの中核は、パラメトリックなガウス・メッセージパッシング(すなわち、カルマン型の順方向・逆方向の再帰)を、該当する因子グラフ上で用いることである。提案手法は広く適用可能であり(通常は)行列の乗算だけを必要とし、その計算複雑度は場合によっては従来手法と競争し得る。