履歴をクエリすることを学ぶ:学習されたリトリーバルによる非定常分類

arXiv cs.LG / 2026/4/9

💬 オピニオンIdeas & Deep AnalysisModels & Research

要点

  • 本論文は、非定常分類を、現在の入力だけに基づくのではなく、時系列としての歴史的なラベル付き例の系列に条件付けして意思決定することで、時系列予測として再定式化することを提案する。
  • 入力に依存したクエリによって関連する過去の事例を選択する、離散的な検索を行う学習済みモジュールをエンドツーエンドで学習することで、長い履歴からのスケーラブルな検索を可能にする。
  • 検索メカニズムはスコアベースの勾配推定器によって分類器と同時に最適化され、学習時およびデプロイ時に履歴全体をGPUメモリへ読み込む必要を回避する。
  • 合成ベンチマークおよびAmazon Reviewsの「electronics」カテゴリでの実験により、標準的な分類器に比べて分布シフトに対する頑健性が向上することが示される。
  • 著者らは、取得される履歴系列の長さに応じてVRAM使用量が予測可能にスケールすることを報告しており、大規模な保存コーパスでの実運用が現実的であることを裏付ける。