SMART：スペクトル・トランスファー手法によるマルチタスク学習
arXiv cs.LG / 2026/4/23
📰 ニュースDeveloper Stack & InfrastructureModels & Research
要点
- 本論文は、ターゲットのサンプル数が少ないと性能が低下する問題に対処するため、線形回帰におけるマルチタスク学習向けのスペクトル・トランスファー手法SMARTを提案する。
- 先行手法がしばしば置く「ソースとターゲットのモデル間の有界差」の仮定とは異なり、SMARTは「スペクトル類似性」を仮定し、ターゲットの左右の特異部分空間が対応するソースの部分空間に含まれ、さらにソースの特異基に対して疎に整列しているとする。
- SMARTは、ソース側の生データではなく「適合済みのソースモデル」から得られるスペクトル情報を用い、構造化正則化によってターゲットの係数行列を推定する。
- 非凸の最適化問題に対してはADMMベースの実用的アルゴリズムを設計し、ノイズなしのソース状況では一般の非漸近誤差境界とミニマックス下界を示す。
- シミュレーションでは負のトランスファーへの頑健性を含め推定精度が向上し、マルチモーダルな単一細胞データの分析でも予測性能が良いことが示され、実装はGitHubで公開されている。
