FedLLM:説明可能な交通流予測のためのプライバシー保護型フェデレーテッド大規模言語モデル

arXiv cs.LG / 2026/4/21

📰 ニュースIdeas & Deep AnalysisModels & Research

要点

  • 本論文は、ITSのリアルタイム判断を支えるための、説明可能な短期交通流予測(15〜60分)向けプライバシー保護型フェデレーテッド・フレームワーク「FedLLM」を提案している。
  • 従来の時空間モデルやLLM手法の限界(集中データ前提・説明可能性の不足など)を踏まえ、集中学習から離れつつ、構造化された文脈表現で説明性を高めることを狙っている。
  • FedLLMは、フリーウェイ選択に構造的多様性を反映するComposite Selection Score(CSS)と、空間・時間・統計コンテキストを符号化した構造化交通プロンプトで微調整したドメイン適応LLMという貢献を行っている。
  • フェデレーテッド学習では、異種クライアント間で軽量なLoRAアダプタのパラメータのみを交換し、通信オーバーヘッドを抑えつつ、非IIDな交通分布下での学習にも対応する。
  • 実験では、集中型ベースラインより予測性能が向上し、さらに構造化された説明可能な出力が得られたことから、FLとドメイン適応LLMの組み合わせがスケーラブルでプライバシー配慮かつ説明可能な交通予測に有望であると示されている。

要旨: 交通予測は、リアルタイムの意思決定、渋滞管理、長期計画を支えることで、知能化交通システム(ITS)において中心的な役割を果たしている。しかし、多くの既存手法には実運用上の制約がある。多くの時空間モデルは集中型データで学習され、数値表現に依存しており、説明可能性は限定的である。近年の大規模言語モデル(LLM)手法は推論能力を改善するが、通常は集中型データが利用可能であることを前提としており、現実の交通システムが持つ分散性や異質性を十分に捉えていない。これらの課題に対処するため、本研究は、説明可能なマルチホライゾン短時間交通流予測(15-60分)を実現する、プライバシー保護かつ分散型の枠組みFedLLM(Federated LLM)を提案する。この枠組みは、4つの主要な貢献を含む。1) 交通領域間の構造的多様性を捉える、データ駆動型の高速道路選択のための複合選択スコア(CSS) 2) 空間・時間・統計的文脈を符号化する構造化交通プロンプト上で微調整された、ドメイン適応済みLLM 3) FedLLM枠組み。異質なクライアント間で共同学習を可能にし、やり取りするのは軽量なLoRAアダプタのパラメータのみとすることである。4) 文脈に基づく推論と領域間の汎化を支える構造化プロンプト表現。FedLLMの設計により、各クライアントはローカルな交通パターンを学習しつつ、効率的なパラメータ交換を通じて共有グローバルモデルに貢献できる。その結果、通信オーバーヘッドを削減し、データの機密性も維持できる。この設定により、非IIDな交通分布下での学習を支援する。実験結果は、FedLLMが集中型ベースラインに比べて予測性能を向上させるとともに、構造化され説明可能な出力を生成することを示す。これらの知見は、FLとドメイン適応済みLLMを組み合わせることで、スケーラブルでプライバシーに配慮し、かつ説明可能な交通予測が可能になる可能性を示している。