ハイパースペクトル画像分類のための正弦（コサイン）正規化アテンション
arXiv cs.CV / 2026/4/3
💬 オピニオンIdeas & Deep AnalysisModels & Research
要点
- 本論文は、ハイパースペクトル画像分類におけるトランスフォーマーベースの標準的なドット積アテンションが、特徴の大きさと方向（オリエンテーション）を絡めてしまい、ハイパースペクトル・シグネチャの角度構造を適切に捉えられないため、最適ではない可能性があると主張する。
- クエリとキーの埋め込みを単位超球面へ射影し、2乗のコサイン類似度を用いて角度関係を強調しつつ、大きさの変化に対する感度を抑えることで、コサイン正規化アテンションを提案する。
- この手法は空間—スペクトルトランスフォーマーに組み込まれ、非常に限られた教師あり設定で検証される。
- 3つのベンチマークデータセットでの実験により、軽量なバックボーンであっても、複数の近年のトランスフォーマー／Mambaベース手法を上回る一貫した性能向上が示される。
- アブレーション／制御された分析として、異なるアテンションスコア関数を比較し、コサインに基づくスコアリングがハイパースペクトル表現学習に有益な帰納的バイアスを提供することを示す。
