ユニバーサルな表データ埋め込みに向けて：データタスク横断のベンチマーク

Abstract

表形式基盤モデルは、表形式データの普遍的な表現を学習し、タスクやドメインを越えて転移できるようにすることを目的としています。これにより、表の検索、セマンティック検索、表に基づく予測といったアプリケーションが可能になります。こうしたモデルの数が増えているにもかかわらず、実際のところどのアプローチが最も有効かは依然として不明です。というのも、既存手法は多くの場合、タスク固有の設定で評価されているため、直接の比較が難しいからです。そこで本研究では、TEmBed（Tabular Embedding Test Bed）を導入します。TEmBedは、セル、行、列、表という4つの表現レベルにわたって表形式埋め込みを体系的に評価するための包括的なベンチマークです。多様な表形式表現学習モデルを評価することで、使用すべきモデルはタスクと表現レベルに依存することを示します。本結果は、実世界のアプリケーションにおいて表形式埋め込みを選択するための実践的な指針を提供するとともに、より汎用的な表形式表現モデルを開発するための基盤を築きます。