ほぼ無料で：畳み込み画像フィルタで敵対的（アドバーサリアル）例を作る

概要: 機械学習における敵対的例（adversarial examples）は通常、勾配を用いて生成されます。勾配はモデルへの直接のアクセスによって得られるか、あるいはモデルへのクエリによって近似されます。本論文では、説明可能な機械学習に関する知見から着想を得て、敵対的例を作り出すための、はるかに単純なアプローチを提案します。具体的には、古典的なエッジ検出アルゴリズムに基づきつつ、学習モデルを欺くために最適化した
\emph{敵対的画像フィルタ（adversarial image filters）} を設計します。その結果得られる非標的型攻撃は転移可能であり、入力に対して1回の処理（単一パス）だけで済みます。実験的に、3x3フィルタだけでも、異なるニューラルネットワークに対して成功率30%〜80%を実現できることを見出しました。敵対的例の作成に生成モデルを用いる関連手法と比べて、パラメータ数を5桁削減し、その結果、非常に効率的な攻撃が得られます。学習されたフィルタのパラメータを調べると、モデル間での高い転移可能性や、古典的な画像フィルタに共通する構造といった、興味深い特性が観察されます。本研究は、ニューラルネットワークの脆弱性や、悪意のあるノイズに対する脆さについて、さらなる洞察を提供します。