学習ベースの準拠（コンフォーマル）ノベルティ検出における敵対的頑健性について

概要: 本論文では、等角（conformal）な新規性検出における敵対的頑健性（adversarial robustness）を研究する。具体的には、有限標本における偽発見率（FDR）制御を備えた、強力な学習ベースの2つの枠組みに注目する。1つはAdaDetect（Marandonら、2024による）であり、正例・未ラベル（positive-unlabeled）分類器に基づくものである。もう1つは、一クラス分類器ベースのアプローチ（Batesら、2023による）である。これらは良性条件（benign conditions）の下で厳密な統計的保証を与える一方で、敵対的摂動下での振る舞いは十分に調べられていない。まず、AdaDetectの枠組みに基づく形で、オラクル攻撃の設定を定式化し、FDRの最悪時の劣化を定量化する。さらに、攻撃により生じる統計的コストを特徴づける上界を導出する。この理想化した定式化は、両方の枠組みの出力ラベルに対するクエリ（問い合わせ）アクセスのみを必要とする、実用的かつ効果的な攻撃手法を直接動機づける。加えて、これらの定式化を、広く用いられる補完的な2つの人気のブラックボックス敵対的アルゴリズムと組み合わせることで、合成データセットと実世界データセットの両方において、両枠組みの脆弱性を体系的に評価する。結果として、敵対的摂動は検出能力を高く保ったまま、FDRを大幅に増加させ得ることが示される。これは、現在のエラー制御付き新規性検出手法が持つ根本的な限界を明らかにし、より頑健な代替手法の開発を促す。