離散マークと連続ダイナミクスを結ぶ:マーク付き時系列点過程のための二経路クロスインタラクション

arXiv cs.LG / 2026/3/13

📰 ニュースModels & Research

要点

  • NEXTPPは、ニューラルODEを用いて離散イベントマークと連続時間ダイナミクスを共同でモデリングするデュアルチャネルアーキテクチャを提案します。
  • 離散イベントマークは自己注意機構でエンコードされ、並行して潜在的な連続時間状態を進化させ、クロスアテンションモジュールを介してクロスインタラクションを可能にします。
  • 結合された離散-連続表現はニューラル・ホークス過程の条件強度関数を推進し、将来のイベントを生成するために反復的な間引きサンプルを用います。
  • 五つの実世界データセットでの評価は、NEXTPPが一貫して最先端モデルを上回ることを示しており、著者らはソースコードをGitHubで公開しています。

要旨: 不規則に間隔を置くイベント列を、離散マークを伴って予測することは、連続時間データストリームに内在する複雑で非同期な依存関係のために重大な課題をもたらします。既存の逐次アプローチはイベントトークン間の依存関係を捉えますが、イベント間の連続的な進化を無視します。一方、 Neural Ordinary Differential Equation (Neural ODE) 手法は滑らかなダイナミクスをモデル化しますが、イベントの種類が将来のタイミングに与える影響を考慮できません。これらの限界を克服するため、イベント粒度ニューラル進化とクロスインタラクションを用いて離散表現と連続表現を統合するデュアルチャネルフレームワーク、NEXTPPを提案します。具体的には、NEXTPPは離散イベントマークを自己注意機構でエンコードし、同時にニューラルODEを用いて潜在的な連続時間状態を進化させます。これらの並列ストリームは、連続表現と離散表現の明示的な双方向の相互作用を可能にするため、クロスアテンションモジュールを介して結合されます。結合された表現はニューラル・ホークス過程の条件強度関数を推進し、将来のイベントを生成するために反復的な間引きサンプラーを用います。五つの実世界データセットでの広範な評価は、NEXTPPが最先端モデルを一貫して上回ることを示しています。ソースコードは https://github.com/AONE-NLP/NEXTPP に公開されています。