PAS: ドメイン適応の前にターゲット精度を推定する

概要: ドメイン適応の目的は、異なるが関連するソースドメインから得られるラベル付きサンプルの助けを借りて、ターゲットドメインに属するラベルなしサンプルに対する予測を行えるようにすることです。ドメイン適応手法の性能は、ソースドメインと事前学習済み特徴抽出器の選択によって大きく左右されます。しかし、ターゲットドメイン用のラベル付き検証セットが存在しないこと、そして利用可能な事前学習済みモデルが大量にあることから、ソースデータと事前学習済みモデルの選定は自明ではありません。本研究では、実際にドメイン適応を行う前に、ソースドメイン集合と事前学習済み特徴抽出器の転移可能性をターゲットの分類タスクに対して推定するための新しいスコアであるPASを提案します。PASは、事前学習済みモデルの汎化能力を活用し、事前学習済みの特徴埋め込みに基づいてソースとターゲットの適合性を評価します。さらに、複数の候補の中から最も関連性の高い事前学習済みモデルとソースドメインを示す枠組みにPASを統合することで、計算オーバーヘッドを抑えつつターゲット精度を向上させます。画像分類ベンチマークに関する大規模な実験により、PASが実際のターゲット精度と強く相関していること、そして適応のために最も良い性能を示す事前学習済みモデルとソースドメインの選択を一貫して導くことが示されています。