異種マルチラベル予測のためのFOCALアテンション

arXiv cs.LG / 2026/4/22

📰 ニュースModels & Research

共有:

要点

本論文は、異種グラフ上でのマルチラベルノード分類を扱い、構造の不均一性と複数ラベル間で共通表現を学ぶ必要に起因する難しさを指摘しています。
著者らは、既存手法が失敗しやすい理由を理論的に分析し、近傍を広げると一次（タスク上重要な）領域への注意が薄まること、さらにメタパス制約がカバレッジ不足と意味の希薄化のトレードオフを生むことを示します。
このカバレッジとアンカリングの対立（コンフリクト）を解決するために、FOCAL（CoverageとAnchoringの融合学習）を提案します。
FOCALは、異種コンテキストを柔軟に集約するカバレッジ志向アテンション（COA）と、メタパスにより誘導される一次セマンティクスに集約を制限するアンカリング志向アテンション（AOA）を組み合わせます。
理論的な裏付けと実験結果の両方により、FOCALが既存の最先端手法よりも良い性能を示すと報告しています。

要旨: 異種グラフは、複雑な現実世界のシステムにおいて多種類のエンティティと関係をモデリングするために、ますます注目を集めている。異種グラフ上でのマルチラベル・ノード分類は、構造的な異質性と、複数のラベル間で共有表現を学習する必要があることにより困難である。既存の手法は一般に、柔軟な注意機構を採用するか、メタパスに制約を設けたアンカーリングを採用するが、異種マルチラベル予測ではしばしば、意味の希薄化またはカバレッジ制約の問題に悩まされる。これらの問題は、マルチラベルの監督下ではさらに増幅される。われわれは、異種近傍が拡大するにつれて、タスクにとって重要な（主要な）近傍に割り当てられる注意（attention）の質量が減少すること、また、メタパスに制約を設けた集約にはジレンマがあることを示す理論的分析を提示する。すなわち、メタパスが少なすぎるとカバレッジ制約が強まる一方で、メタパスが多すぎると希薄化が再導入される。そこで、このカバレッジとアンカーリングの競合を解決するために、FOCAL（Fusion Of Coverage and Anchoring Learning）を提案する。FOCALは2つの構成要素からなる。すなわち、柔軟で制約のない異種コンテキスト集約のためのカバレッジ指向注意（COA）と、メタパスによって誘導される主要な意味に集約を制限するアンカーリング指向注意（AOA）である。われわれの理論的分析と実験結果は、FOCALが他の最先端手法よりも良い性能を持つことも示している。