意思決定空間の縮小を通じた敵対的アンプリファイアとしての圧縮

Abstract

画像圧縮は、現代の視覚パイプラインにおける普遍的な構成要素であり、推論の前にソーシャルメディア・プラットフォームやリソース制約のあるシステムによって日常的に適用されています。にもかかわらず、圧縮が敵対的頑健性に与える影響は、いまだ十分に理解されていません。本研究では、攻撃が圧縮表現そのものに対して直接適用されるという、これまで未検討の敵対的設定を扱い、圧縮が深層画像分類器に対する敵対的増幅器として機能し得ることを示します。公称の摂動予算が同一である場合、圧縮を考慮した攻撃は、ピクセル空間での対応手法よりも大幅に効果的です。この効果は、決定空間の縮小によって説明できます。すなわち、圧縮は非可逆で情報を失う変換をもたらし、それによって分類のマージンが縮められ、摂動への感度が高まります。標準的なベンチマークとアーキテクチャにまたがる広範な実験が、この分析を支持するとともに、圧縮をループに組み込む（compression-in-the-loop）導入設定における重大な脆弱性を明らかにします。コードを公開予定です。