翻訳不変性を持つCNNのためのパラメータ効率の高いアーキテクチャ改良

要旨: 畳み込みニューラルネットワーク（CNN）は一般に平行移動に対して不変であると広く想定されていますが、標準的なアーキテクチャには驚くほど脆弱な性質があります。すなわち、空間に依存する全結合層に依存しているため、たった1ピクセルのシフトでも性能が大幅に劣化してしまいます。本研究では、この脆弱性を解消するために、軽量な「オンライン・アーキテクチャ（Online Architecture）」戦略を提案します。ネットワークのさまざまな深さに適切にGlobal Average Pooling（GAP）層を挿入することで、特徴認識から空間的位置を効果的に切り離します。主要なケーススタディとしてVGG-16を用いることで、このアーキテクチャ修正により、学習可能パラメータが大幅に98%削減され（5.2Mから82Kへ）、ネットワーク全体のサイズも90%削減できることを示します（138Mから14Mへ）。このような大規模な枝刈りにもかかわらず、提案した変種はImageNetにおいて競争力のあるTop-1精度（66.4%）を維持し、さらに平行移動に対する頑健性を2倍にし、平均相対損失を0.09から0.05へと低減します。さらに、解析により不変性には本質的な限界があることを特定します。すなわち、GAPは巨視的な感度を解決するものの、離散的なプーリング操作が残留する周期的エイリアシングを導入し、完全なピクセルレベルの安定性を妨げるのです。最後に、これらの知見を知覚画像品質評価（IQA）へと拡張し、不変なバックボーンをLPIPSフレームワークに統合します。その結果得られる指標は、KADID-10kデータセットにおける一般化で、再学習したベースラインを大きく上回ります（Spearman 0.89 vs. 0.75）。また、RAIDデータセットでは、人間の心理物理的な応答曲線との整合がほぼ完全に達成されます（Spearman 0.95）。これらの結果は、アーキテクチャに不変性を強制することが、従来のデータ拡張よりもはるかに効率的で、生物学的にもよりもっともらしい頑健性への道であることを裏付けています。データとコードは公開されています。データとコードは、検証およびさらなる研究を促進するために公開されています。