PRISM：トピックモデリングのためのコーパス統計からのPRIor推定

Abstract

トピックモデリングは、LDAが基礎となる確率的枠組みを提供する一方で、テキスト中に潜む意味構造を明らかにすることを目指す。近年の手法はしばしば外部知識（例：事前学習済み埋め込み）を組み込むが、そのような依存は、新興分野や十分に調査されていない分野への適用可能性を制限する。そこで我々は、 \textbf{PRISM} を提案する。これは、単語共起統計からディリクレ分布のパラメータを導出し、生成過程を変更することなく LDA を初期化する、コーパス内在型の手法である。テキストおよび単一細胞RNA-seqデータに対する実験により、PRISM がトピックのコヒーレンスと解釈可能性を改善し、外部知識に依存するモデルに匹敵することが示された。これらの結果は、資源が限られた状況におけるトピックモデリングでは、コーパス駆動の初期化が価値を持つことを裏付けている。 Code is available at: https://github.com/shaham-lab/PRISM.