予測のためのディープ状態空間モデルにおける逆敵対的ロバスト性

arXiv cs.LG / 2026/4/7

📰 ニュースIdeas & Deep AnalysisModels & Research

共有:

要点

本論文は、これまでロバスト性が不明確だった Spacetime 状態空間モデル（SSM）フォアキャスタに対して、制御理論的枠組みを用いて時系列予測における敵対的ロバスト性を研究する。
デコーダのみの Spacetime アーキテクチャの表現特性を証明し、自己回帰的なデータ生成過程のもとで最適なカルマン予測器を表現できることを示す。著者らは、他の SSM はこれができないと主張している。
著者らは、検出予算のもとでの最悪ケースのステルス的敵対者に対して、堅牢な予測を Stackelberg（防御者–攻撃者）ゲームとしてモデル化し、それを解くための敵対的学習を提案する。
敵対的な予測の脆弱性を、開ループ／閉ループ不安定性やデコーダ状態次元などの要因と結びつける閉形式の評価（境界）を導出し、ロバスト性のための設計指針を与える。
Monash のベンチマークデータセットでの実験により、フォアキャスタへのアクセスや勾配計算を必要としない攻撃手法でも、ステップサイズを小さくした投影勾配降下法と比べて予測誤差を少なくとも 33% 増加させ得ることが示される。

Abstract

時系列予測における状態空間モデル（SSM）は、ベンチマークデータセットに対して強い実証的性能を示してきましたが、敵対的摂動下でのロバスト性は十分に理解されていません。私たちはこのギャップを、制御理論的な観点から扱い、近年提案された Spacetime SSM フォアキャスタに焦点を当てます。まず、基となるデータ生成過程が自己回帰的である場合、デコーダのみの Spacetime アーキテクチャが最適なカルマン予測器を表現できることを示します。この性質は他のどの SSM も持ちません。これに基づき、検知予算によって制約された最悪のステルス型敵対者に対するスタッケルベルグ（Stackelberg）ゲームとして、ロバストなフォアキャスタ設計を定式化し、敵対的学習によって解きます。さらに、敵対的予測誤差に関する閉形式の上界を導出し、オープンループ不安定性、クローズドループ不安定性、そしてデコーダ状態次元のそれぞれが脆弱性をどのように増幅するかを明らかにします。これにより、ロバストなフォアキャスタ設計に向けた実行可能な原則を提供します。最後に、フォアキャスタへのアクセスがない敵対者であっても、モデルの局所的に線形な入出力挙動を悪用することで、勾配計算を一切行わずに、なお有効な攻撃を構築できることを示します。Monash ベンチマークデータセットでの実験により、勾配計算をまったく行わないモデルフリー攻撃は、ステップサイズが小さい射影勾配降下法に比べて、少なくとも 33% 以上誤差を増やせることが示されます。