精度変動予測（PVP）：敵対的攻撃に対してASRシステムの頑健性を高める

Abstract

自動化されたエージェント的システムの導入が進むにつれて、自動音声認識（ASR）モデルの敵対的ロバスト性を確保することが重要になっています。本研究では、推論中にASRモデルの精度（precision）を変更すると、敵対的攻撃が成功する可能性が低下することを観察します。この事実を活用し、予測時に精度を単純にランダムサンプリングするだけで、モデルをより頑健にします。さらに、この洞察は、異なる精度から得られる出力を比較し、単純なガウス分類器を活用することで、敵対的例の検出戦略へと転用できます。実験的分析により、さまざまなASRモデルと攻撃タイプに対して、ロバスト性が大幅に向上し、競争力のある検出性能が得られることが示されます。