クロスアテンション機構の再検討: ドメイン適応学習のための有益なノイズの活用

要旨：教師なしドメイン適応（UDA）は、ラベル付きソースドメインからラベルなしターゲットドメインへ知識を移転することを目指しますが、しばしば性能を低下させる深刻なドメイン間およびスケールギャップに悩まされます。既存のクロスアテンションベースのトランスフォーマーはドメイン間で特徴を整列させることができますが、大きな外観とスケールの変動の下で内容の意味を保持するのに苦労します。これらの課題に明示的に対処するため、有益なノイズの概念を導入します。これは制御された摂動を注入してクロスアテンションを正則化し、モデルがスタイルの紛れを無視し、内容に焦点を当てるよう促します。我々はDomain-Adaptive Cross-Scale Matching（DACSM）フレームワークを提案します。これは、ドメイン共有の内容をドメイン固有のスタイルから分離するためのDomain-Adaptive Transformer（DAT）と、複数解像度にわたって特徴を適応的に整列させるCross-Scale Matching（CSM）モジュールから構成されます。DAT はクロスアテンションに有益なノイズを組み込み、強化されたロバスト性を伴う段階的なドメイン翻訳を可能にし、内容が一貫しスタイルが不変な表現を生み出します。一方、CSM はスケール変化下での意味的一貫性を保証します。VisDA-2017、Office-Home、DomainNet における広範な実験は、DACSM が最先端の性能を達成することを示しており、VisDA-2017 において CDTrans より最大で +2.3% の改善を実現します。特に、DACSM は VisDA の難しい「truck」クラスで +5.9% の改善を達成しており、スケールの不一致を扱う際の有益なノイズの有効性を示しています。これらの結果は、ドメイン翻訳、有益なノイズ強化アテンション、スケール認識を取り入れた整列を組み合わせることで、堅牢なクロスドメイン表現学習の有効性を強調しています。