Mochi：メタラーニングによる効率的なグラフ基盤モデルでの事前学習と推論の整合

概要: 本稿では、メタラーニングに基づく学習フレームワークを採用することで、タスク統一と学習効率の課題に取り組むグラフ基盤モデルであるMochiを提案します。先行モデルは、リンク予測のような再構成ベースの目的で事前学習し、その結果得られる表現は、クラスプロトタイプのような別の統一ステップを通じて下流タスクと整合できると仮定します。合成および実世界の実験により、この手順は単純で直感的である一方で、それが下流タスクの性能に直接影響する制約を持つことを示します。これらの制約に対処するため、Mochiは下流の評価プロトコルを模した少数ショットのエピソードで事前学習し、事後的な統一ステップに依存するのではなく、学習目的を推論と整合させます。Mochiおよびより強力なバリアントであるMochi++は、ノード分類、リンク予測、グラフ分類にまたがる25の実世界グラフデータセットにおいて、既存のグラフ基盤モデルと比較して競争力のある、あるいはそれを上回る性能を達成し、さらに最強のベースラインよりも学習時間を8$27倍少なくすることを示します。