構造化データと非構造化データのための複数加算型ニューラルネットワーク

要旨: 本論文は、従来のグラディエントブースティングの枠組みを強化する手法であるMultiple Additive Neural Networks（MANN）手法を拡張し、説明する。この手法では、ベース学習器として決定木ではなく、ほぼ浅いニューラルネットワークを用いる。提案する革新的アプローチは、ニューラルネットワークのアーキテクチャ、特に畳み込みニューラルネットワーク（CNN）およびカプセル・ニューラルネットワークを活用し、構造化データと画像や音声のような非構造化データの両方へ応用を拡張する。構造化データに対しては、特徴抽出器としてのカプセル・ニューラルネットワークの利点を用い、それを分類器としてのMANNと組み合わせる。MANNの独自のアーキテクチャは継続的学習を促進し、過学習に対抗するための高度なヒューリスティックを統合することで、学習率や反復回数といったハイパーパラメータ設定への感度を低減しつつ、頑健性を確保する。実証的な研究により、MANNは広く知られたデータセットにおいて、Extreme Gradient Boosting（XGB）のような従来手法を精度の面で上回ることが示された。本研究は、MANNが高い精度と汎化能力を有し、多様なデータ型や複雑な学習環境に対して汎用的なツールとなり得ることを実証する。