ProCal: 近傍ガイド付きソースフリー・ドメイン適応の確率キャリブレーション

要約: ソースなしドメイン適応（SFDA）は、ソースデータへアクセスすることなく、事前学習済みモデルをラベルなしのターゲットドメインへ適応させます。先端的な手法がローカル近傍構造を活用してSFDAに有望を示す一方で、それらは近傍間の予測類似性に過度に依存する傾向があります。この過度の依存は、ソース知識の忘却を加速させ、局所的なノイズ過適合への感受性を高めます。これらの問題に対処するため、我々は ProCal を導入します。これはデュアルモデルの協調予測機構を通じて近傍ベースの予測を動的に較正する確率キャリブレーション手法です。ProCal は、ソースモデルの初期予測と現在のモデルのオンライン出力を統合して、近傍の確率を効果的に較正します。この戦略は局所ノイズの干渉を緩和するだけでなく、ソースモデルからの識別情報を保持し、知識の保持とドメイン適応のバランスを実現します。さらに、ターゲットモデルを導くために、ソフト監視損失と多様性損失を組み合わせた結合最適化目的を設計します。理論的な分析では、ProCal がソース知識とターゲット情報を効果的に融合する平衡点へ収束し、知識忘却と過剰適合の両方を低減することを示します。本手法の有効性は、4つの公開データセットにまたがる31のクロスドメインタスクにおける広範な実験で検証されました。コードは以下のリンクで公開されています: https://github.com/zhengyinghit/ProCal.