深層変分推論によるシンボリック回帰

arXiv cs.LG / 2026/5/5

📰 ニュースIdeas & Deep AnalysisModels & Research

要点

  • この論文は、Deep Symbolic Regression(DSR)を変分ベイズ手法で拡張し、不確実性を推定しつつ方程式を得る Deep Variational Inference Symbolic Regression(DVISR)を提案している。
  • DVISRは、DSRの報酬(reward)をエビデンス下限(ELBO)の被積分項に置き換え、確率的なシンボリックモデル推論に沿う形で学習を行う。
  • ネットワークを改良して、式中の定数に対する分布を出力できるようにし、式の構造(木)と数値パラメータの双方について事後分布推論を可能にしている。
  • 実験では、定数トークンの有無を含む単純な設定でDVISRが真の事後分布を復元できることを示している。
  • 表現空間(探索空間)のサイズが大きくなるにつれて性能がどう変化するかも分析し、全モデルの不確実性を伴うスケーラブルなベイズ的シンボリック回帰への一歩だと位置づけている。