CLEAR：逆学習によるアラインメントのためのクロスリンガル強化

要旨: 現在の既存の多言語埋め込みモデルは、言語資源の偏りや、学習時における言語間の整合（アラインメント）への配慮の不足により、言語横断（クロスリンガル）シナリオでしばしば困難に直面します。言語横断適応のための標準化されたコントラスト学習アプローチは広く採用されていますが、それらは言語間の基礎的な整合を捉えるのに苦戦し、英語のように整合が取れている言語では性能が低下することがあります。これらの課題に対処するために、本研究では逆学習（reverse-training）スキームを用いた新しい損失関数である、検索における言語横断強化（Cross-Lingual Enhancement in Retrieval via Reverse-training: CLEAR）を提案します。CLEARは、多様な言語横断検索シナリオにおける検索性能を向上させるために、逆学習の枠組みを利用する損失関数です。CLEARは、英語の段落をブリッジとして用いることで、目標言語と英語の間の整合を強化し、言語横断検索タスクにおいて頑健な性能を保証します。広範な実験の結果、CLEARは言語横断シナリオにおいて顕著な改善を達成し、特に低資源言語では最大15%の向上が見られる一方で、英語における性能低下を最小限に抑えます。さらに、本研究の知見は、CLEARが多言語学習においても有望な有効性を示すことを明らかにしており、幅広い適用とスケーラビリティの可能性が示唆されます。コードは https://github.com/dltmddbs100/CLEAR で公開します。