二次元圧縮を用いた時空間予測のための効果的なデータセット蒸留

時空間の時系列は、交通予測や天気予測を含む実世界のアプリケーションで広く用いられている。これらは長期間および複数の場所にわたる観測の連続であり、多次元データとして自然に表現される。予測は時空間分析の中心的なタスクであり、それに対処するために多くの深層学習手法が開発されてきた。しかし、データセットのサイズとモデルの複雑さが実務で増大し続ける中、深層学習モデルの訓練は時間と資源を要するようになっている。この課題への有望な解決策はデータセット蒸留であり、元のデータをモデル訓練のために効果的に置換できるコンパクトなデータセットを合成する。時系列分析を含む様々な領域で成功しているものの、既存のデータセット蒸留法は次元を1つだけ圧縮しており、空間と時間の次元が共同で大きなデータ量に寄与する時空間データセットには適していない。この制限に対処するため、我々は時空間時系列予測専用の初のデータセット蒸留法であるSTemDistを提案する。私たちの解決策の鍵となるアイデアは、時間的および空間的次元の両方をバランス良く圧縮し、訓練時間とメモリを削減することである。さらに、個々の地点レベルではなくクラスタレベルで蒸留を行うことで蒸留コストを削減し、この粗粒度のアプローチをサブセットベースの粒度蒸留技術で補完して予測性能を高める。5つの実世界データセットにおいて、一般的な蒸留法および時系列データセット蒸留法の両方と比較して、私たちのSTemDist法で蒸留されたデータセットはモデル訓練を (1) より速く（最大6倍） (2) よりメモリ効率的に（最大8倍）、(3) より効果的に（予測誤差を最大12%低減）できることを実証的に示している。