コントラスト的な等角集合

Abstract

対照学習は、ポジティブサンプルを密にクラスター化し、ネガティブサンプルを分離することを促すことで、首尾一貫した意味的特徴埋め込みを生成します。しかし、既存の対照学習手法には、意味的特徴空間内でのカバレッジに関する原理的な保証が欠けています。そこで本研究では、学習可能な一般化マルチノルム制約を備えた最小体積カバー集合を導入することで、この設定に適用する形で予測適合（conformal prediction）を拡張します。ポジティブサンプルに対してユーザーが指定したカバレッジを保証しつつ、ネガティブサンプルの排除を最大化する適合集合を構築する手法を提案します。体積最小化がネガティブ排除の代理となることを理論的に示し、ネガティブペアが利用できない状況でも本アプローチが有効に動作できることを可能にします。ポジティブ包含の保証は、適合予測の分布非依存なカバレッジ特性を継承し、ネガティブ排除は、保持した学習用分割で最適化された学習済み集合の幾何により最大化されます。シミュレーションおよび実世界の画像データセットに対する実験により、標準的な距離ベースの適合（conformal）ベースラインと比較して、包含-排除のトレードオフが改善されることが示されます。