階層的な空間-チャネルクラスタリングによる医用画像解析のための効率的なモデル圧縮

概要: 畳み込みニューラルネットワーク（CNN）は、メモリおよび計算要求が大きいため、リソースが制約された環境への導入がますます難しくなっています。低ランク圧縮手法によってこの負担を軽減することは可能ですが、既存のほとんどのアプローチは、空間的冗長性とチャネル冗長性を独立に圧縮するため、畳み込み特徴マップ内に局在する構造を十分に活用できていません。本論文では、CNN向けの階層的なスパティオチャネル（空間・チャネル）低ランク圧縮フレームワークを提案し、空間領域とチャネル活性の双方にまたがる冗長性を活用します。提案手法は、層全体に対して一様な分解を適用する従来手法とは異なり、まず特徴マップを空間領域に分割し、次に各領域内での共活性化パターンに基づいてチャネルをグループ化し、最後に得られた各スパティオチャネル・クラスタに対して階数適応型SVD（rank-adaptive SVD）を適用します。この手法は、AlexNetベースの脳腫瘍MRI分類モデルで評価され、グローバルSVDおよびTucker分解と、
\(3\times\) および \(6\times\) の圧縮予算のもとで比較されます。提案手法は両方のベースラインを上回り、FLOPsを \(8.21\,\mathrm{G}\) から \(1.55\,\mathrm{G}\)（\(81.1\%\)削減）へと削減し、\(1.38\times\) の推論速度向上を達成し、分類精度を \(87.76\%\) から \(89.80\%\) へと向上させます。また、本手法はマクロ \(F_1\)-スコアを改善し、髄膜腫などの難しいクラスでの性能も向上させます。ハイパーパラメータのトレードオフ分析により、このフレームワークがパレート最適な構成を提供し、圧縮と予測性能のバランスを制御できることが示されます。階層化（クラスタリング）を適度に行い、適応的に階数を選択することで良好な結果が得られます。全ての分類指標についてブートストラップによる標準誤差が報告されます。