CountsDiff：自然数上の拡散モデル——計数（カウント）ベースデータの生成と補完

概要: 拡散モデルは、連続領域およびトークンベース領域の両方における生成タスクで優れた性能を発揮してきましたが、離散の順序データへの適用はいまだ十分に開発されていません。私たちは、自然数上の分布をネイティブにモデル化するための拡散フレームワーク「CountsDiff」を提案します。CountsDiffは、サバイバル確率スケジュールに関する直接的なパラメータ化と、明示的な損失の重み付けによってその定式化を簡素化し、Blackout拡散フレームワークを拡張します。これにより、既存の拡散モデリングの枠組みに対応する設計パラメータを通じた柔軟性が導入されます。この再パラメータ化に加えて、CountsDiffは、これまで計数ベースの領域には存在しなかった、現代的な拡散モデルの特徴を導入します。具体的には、連続時間での学習、クラス分類器なしガイダンス、そして非単調な逆方向軌道を可能にする、チャーン／リマスキング型の逆ダイナミクスが含まれます。私たちはCountsDiffの初期の実装を提案し、それを自然画像データセット（CIFAR-10、CelebA）で検証します。導入した設計パラメータを変化させたときの影響を、複雑で、よく研究され、かつ解釈可能なデータ領域において探ります。次に、生物学的な計数アッセイを自然なユースケースとして取り上げ、胎児の細胞および心臓細胞アトラスにおける単一細胞RNA-seqの欠損補完に対してCountsDiffを評価します。注目すべきことに、この単純な実装であっても、最先端の離散生成モデルおよび主要なRNA-seq補完手法の性能に匹敵する、あるいはそれを上回ることを見出しつつ、今後の研究において最適化された設計選択によってさらなる改善の余地が大きく残されていることを示します。