知識は静的ではない:言語モデルのための順序を考慮したハイパーグラフRAG

arXiv cs.CL / 2026/4/15

💬 オピニオンSignals & Early TrendsIdeas & Deep AnalysisModels & Research

要点

  • 本論文は、一般的なRAG手法が取得した根拠を順序のない集合として扱う一方で、現実のタスクでは相互作用の順序が答えに影響するため、その点が不一致であると主張する。
  • 高次の相互作用をハイパーグラフ上で表現し、さらに学習された優先順位(precedence)構造とともにエンコードする「Order-Aware Knowledge Hypergraph RAG(OKH-RAG)」を提案する。
  • OKH-RAGは、取得(retrieval)をハイパーエッジ上での系列推論として再定式化し、独立した事実ではなく、首尾一貫した「相互作用の軌跡(interaction trajectories)」の復元を目指す。
  • 学習された遷移モデルは、明示的な時間的教師信号を用いずにデータから優先順位を推定し、順序を考慮した推論を可能にする。
  • 熱帯低気圧や港湾運用を含む、順序に敏感なQAおよび説明タスクに関する実験で、OKH-RAGは順列不変のベースラインを上回り、アブレーションにより向上が「相互作用順序のモデリング」に由来することが確認される。