ParamBoost:勾配ブーストによる区分的三次多項式

arXiv cs.LG / 2026/4/22

📰 ニュースIdeas & Deep AnalysisModels & Research

要点

  • 本論文は、リーフノードで区分的な三次多項式を当てはめる仕組みを用い、勾配ブースティングで各特徴量の形状関数(入力特徴→出力の写像)を学習する新しいGAM(Generalized Additive Model)「ParamBoost」を提案する。
  • ParamBoostは、形状関数の連続性や振る舞いを改善するために、C2連続性(2階導関数まで)、単調性、凸性、特徴量間の相互作用制約、モデル仕様制約といった複数のパラメトリック分析向け制約を組み込む。
  • 実験の結果、制約なしのParamBoostは、複数の実データセットにおいて既存の最先端GAM手法を一貫して上回る性能を示した。
  • 必要な制約を利用者が取捨選択できることも示されており、予測性能の低下を小さく抑えながら、用途に応じた解釈可能性・パラメトリック分析要件にモデルを最適化できる。