アラインメントから予測へ：自己教師あり学習と予測的表現学習の研究

概要: 自己教師あり学習は、ラベルなしデータから学習するという課題において主要な技術として登場してきました。現在の手法の多くは、表現の整合（アラインメント）と入力の復元（リコンストラクション）を中心に展開されています。これらのアプローチは実運用において非常に優れた性能を示してきましたが、その適用範囲は主に観測されたデータからの学習にとどまっており、データ分布を予測できるような学習構造という観点ではあまり役立っていません。本論文では、自己教師あり学習の領域における最近の発展のいくつかを検討します。観測に基づいてデータの未観測の構成要素を潜在的に予測することを中核とする、新しいカテゴリである「Predictive Representation Learning（PRL：予測的表現学習）」を定義します。さらに、PRLを整合および復元ベースの学習アプローチとともに分類する共通の分類体系を提案します。加えて、この新しいパラダイムの代表的なメンバーとして、Joint-Embedding Predictive Architecture（JEPA）を位置づけられることを論じます。さらに、理論的な観点と未解決の課題を議論し、予測的表現学習を将来の自己教師あり学習研究における有望な方向性として強調します。本研究では、比較分析のためにBootstrap Your Own Latent（BYOL）、Masked Autoencoders（MAE）、およびImage-JEPA（I-JEPA）を実装しました。その結果、MAEは類似度1.00を達成する一方で、頑健性が比較的弱く0.55であることが示されました。これに対してBYOLとI-JEPAは、それぞれ0.98と0.95の精度を得ており、頑健性スコアはそれぞれ0.75と0.78でした。