ネイマン直交性に基づく半パラメトリックな異質クラスタ化マルチタスク学習における適応的推定と推論

Abstract

本稿では、準パラメトリックな設定におけるクラスタ化されたマルチタスク学習を研究する。そこでは、タスクの目標パラメータは潜在クラスタ構造を共有する一方で、非一様であり、潜在的に無限次元のヌイサンス成分を示す。本研究で扱うこのような非一様性は、既存のマルチタスク学習手法が通常依拠している、整合した特徴空間や均質なタスク構造を仮定できないため、大きな課題となる。そこで本課題に対処するため、我々は、Neyman-直交（Neyman-orthogonal）損失とデータ駆動型のペアごとの融合（fused）ペナルティを統合する適応的な融合直交推定量を提案する。本枠組みでは、タスク固有のパイロット推定値を用いて融合ペナルティを較正し、適応的な集約（aggregation）と直交化を組み合わせることで、ヌイサンス・パラメータ推定誤差の影響を緩和する。理論的に、提案推定量が高い確率で潜在クラスタリングを厳密に復元し、さらにクラスタサイズに比例するプールされた（pooled）パラメトリック収束率を達成することを示す。加えて、漸近正規性を確立し、漸近的には、事前に真のクラスタリングを知っているオラクル手続きの性能と一致することを示す。実験的には、提案手法が様々なシミュレーション設定において強力なベースラインを一貫して上回ることを示す。さらに、米国の住宅用エネルギー消費に関する実世界の応用では、本手法が電力価格の弾力性における意味のある地域クラスタリングの発見に有効であることが示され、提案手法の有効性を裏付けている。