高次元テンソル生成のためのTucker拡散モデル

要旨: 大次元のテンソルデータに対する統計的推論は、文献において広く研究され、経済学・生物学・機械学習などの分野で広く用いられてきました。しかし、所望の分布（ターゲット分布）を持つような構造化されたテンソルを生成する方法は、いまだ新しい問題です。深遠なAIジェネレータとして、拡散モデルは複雑な分布の学習において目覚ましい成功を収めてきました。しかし、多線形のテンソル値観測を生成するための拡張は、十分に検討されていません。本研究では、高次元テンソル分布を学習するための新しいTucker拡散モデルを提案します。スコア関数は、低いTucker階数の仮定のもとで構造化された分解を許容することを示し、それにより、Tucker-Unetと名付けた注意深く設計されたテンソル形状のアーキテクチャを用いることで、正確に近似すると同時に効率的に推定できることを示します。さらに、推定されたスコア関数によって誘導される生成テンソルの分布は、テンソルの各モード次元の最大値に依存する収束率で真のデータ分布へ収束し、積に依存する素朴なベクトル化アプローチに比べて、明確な理論的優位性を提供します。実験的には、既存手法と比較して、Tucker拡散モデルは合成データおよび実世界のテンソル生成タスクにおいて強い実用的可能性を示し、学習およびサンプリングコストを大幅に削減しつつ、同等、場合によってはそれ以上の統計的性能を達成します。