Attentionに驚く:時系列異常検知の予測可能なクエリダイナミクス

arXiv cs.LG / 2026/3/16

📰 ニュースIdeas & Deep AnalysisModels & Research

要点

  • AxonADは、多変量時系列の異常を検出する教師なしディテクターで、マルチヘッド・アテンションのクエリの進化を短期的に予測可能なプロセスとして扱い、チャネル間依存性の変化を捉える。
  • 過去の文脈から将来のクエリベクトルを予測する履歴のみの予測器と、勾配更新された再構成経路を組み合わせ、マスク付きの予測子-ターゲット目的に基づいて、指数移動平均型ターゲットエンコーダを用いて学習されます。
  • 推論時には、再構成誤差と、最近のタイムステップにおける予測クエリとターゲットクエリのコサイン偏差を測る尾部集約型クエリミスマッチスコアを統合します。
  • 自社の車載テレメトリとTSB-AD多変量スイート(17データセット、180系列)で、AxonADは強力なベースラインを上回るランキング品質と時間的局在性を改善し、アブレーション実験ではクエリ予測と結合スコアリングがゲインの主な推進要因であることが示されています。
  • コードは https://github.com/iis-esslingen/AxonAD で公開されています。