TDEC：Transformerと分布情報による深層埋め込み画像クラスタリング

要旨: 画像クラスタリングはマルチメディア機械学習における重要な課題ですが、同時に難しい課題でもあります。近年、クラスタリングと深層学習を組み合わせることで、高次元の画像データに対して、従来手法に比べて有望な性能が得られることが示されています。しかしながら、既存の深層クラスタリング手法（DC）は、クラスタリング画像において、異なる画像領域間のグローバル知覚フィールドによる情報融合の重要性を、特に複雑なものではしばしば無視しています。加えて、学習された特徴は次元の観点でクラスタリングに不利であることが多く、クラスタリングに用いるための単純な距離情報のみに基づいています。そこで本研究では、画像クラスタリングのために、特徴表現、次元選好、および頑健な割り当てを初めて（本知見では）共同で考慮する、深層埋め込み画像クラスタリング TDEC を提案します。具体的には、Transformer を導入して、新規モジュール T-Encoder によりグローバルな依存関係を伴う識別的特徴を学習しつつ、Dim-Reduction ブロックを用いてクラスタリングを促進する友好的な低次元空間を構築します。さらに、クラスタリング過程では埋め込み特徴の分布情報も考慮し、共同学習のための信頼できる教師付き信号を提供します。本手法は頑健であり、データサイズ、クラスタ数、そして文脈の複雑さに対してより大きな柔軟性を可能にします。より重要な点として、TDEC のクラスタリング性能は近年の競合他手法よりも大幅に高いです。複雑なデータセットに対して、最先端のアプローチを用いた大規模な実験により、TDEC の優位性が示されます。