STLGT：マイクロサービスにおけるテールレイテンシ予測のためのスケーラブルなトレースベース線形グラフ・トランスフォーマ

Abstract

マイクロサービスシステムにおけるプロアクティブなSLO管理には、正確なエンドツーエンドのテールレイテンシ予測が不可欠である。しかし、推論効率を大規模に維持しつつ、長期依存の伝播をモデリングし、非定常でバースト的なワークロードに対処することは依然として困難である。我々は、複数ステップのp95テールレイテンシ予測のためにトレースをスパン・グラフとしてエンコードする、APIごとの予測器であるSTLGT（Scalable Trace-based Linear Graph Transformer）を提案する。STLGTは、構造を意識した線形グラフTransformerを用いて、スパン・グラフサイズに対して推論時間が線形となる形でサービス間の依存関係を伝播させ、さらにデカップルされた時間モジュールによってワークロードのダイナミクスを捉える。個別最適化された教育マイクロサービスアプリケーションであるDeathStarBench、およびAlibabaのトレースにおいて、STLGTはPERT-GNNに比べて平均で8.5% MAPEの予測精度向上を達成し、さらにN=32で最大12倍高速なCPU推論を実現する。これは、Alibabaトレースの前処理後に得られる最大スパン・グラフサイズに整合している。アブレーション研究は、各コンポーネントの有効性、特にバースト的なトラフィック下での有効性をさらに示している。