HCRE:予測してから検証する戦略に基づく、文書をまたぐ関係抽出のためのLLMベース階層型分類

arXiv cs.CL / 2026/4/10

💬 オピニオンIdeas & Deep AnalysisModels & Research

要点

  • 本論文は、一般的な「小型言語モデル+分類器」アプローチと比べて、LLM(大規模言語モデル)が文書をまたぐ関係抽出を改善できるかどうかを検討し、その結果、LLMが常にSLM(小型言語モデル)を上回るわけではないことを見出す。
  • 主な制約は、前もって定義された多数の関係タイプを扱うことにあり、そのため推論時にLLMの分類が難しくなると論じる。
  • これに対処するため、著者らは階層型関係ツリーを用いて候補となる関係を階層ごとに段階的に絞り込む、LLMベースの階層型分類フレームワークHCREを提案する。
  • 階層型分類は誤りの伝播により影響を受けやすいことから、本手法では各階層レベルでマルチビューの検証を行う「予測してから検証する(prediction-then-verification)」戦略を追加する。
  • 実験では、HCREが既存のベースラインよりも良い性能を達成し、階層型分類に検証を組み合わせる有効性を裏づける結果が報告されている。

要旨: 文書間関係抽出(RE)は、異なる文書に配置された先頭(head)エンティティと末尾(tail)エンティティの間に存在する関係を特定することを目的とする。既存の手法は一般に、「``\textit{小型言語モデル(SLM) + 分類器}''」というパラダイムを採用する。しかし、SLMの言語理解能力が限定的であることが、性能のさらなる向上を妨げている。本論文では、文書間REにおける大規模言語モデル(LLM)の性能を検討するための予備的研究を行う。膨大なパラメータを持つにもかかわらず、我々の知見では、LLMが既存のSLMを一貫して上回るとは限らないことが示される。さらに分析すると、その性能不振は主として、多数の事前定義された関係がもたらす困難によるところが大きいことが示唆される。この問題を克服するために、文書間\underline{RE}(HCRE)のためのLLMベースの\underline{H}ierarchical \underline{C}lassificationモデルを提案する。これは2つの中核要素から構成される:1)関係予測のためのLLM、2)事前定義された関係集合から導出される\textit{階層的関係ツリー}である。このツリーにより、LLMは階層的分類を行うことができ、対象となる関係はレベルごとに推論される。子ノードの数は、事前定義された関係集合全体のサイズに比べてはるかに小さいため、階層的関係ツリーは推論時にLLMが考慮する必要のある関係候補の数を大幅に減らす。しかし、階層的分類はレベル間での誤り伝播のリスクを伴う。これを軽減するために、各レベルでのマルチビュー検証を通じて予測の信頼性を向上させる\textit{予測してから検証する}推論戦略を提案する。大規模な実験の結果、HCREは既存のベースラインを上回り、その有効性が検証される。