事前情報を取り入れたニューラルネットワーク初期化: 関数パラメータ化アーキテクチャのスペクトルベースアプローチ

要約: 関数パラメータ化のために設計されたニューラルネットワークアーキテクチャは、Bag-of-Functions (BoF) フレームワークのように、深層学習の表現力と古典的信号処理の解釈性とのギャップを埋める。しかし、これらのモデルは初期化パラメータに本質的に敏感であり、従来のデータを考慮しないスキームはターゲット信号の構造的特性を捉えられず、多くの場合収束が最適でない結果となる。本研究では、データの固有のスペクトル的および時間的構造を活用して、ネットワークの初期化とアーキテクチャの構成の両方を導く事前情報に基づく設計戦略を提案します。高速フーリエ変換 (FFT) を用いて顕著な季節性の事前情報を抽出し、モデルの深さと初期状態を決定づけ、トレンド成分をパラメータ化する残差ベースの回帰アプローチを導入するという原理的な方法論を紹介します。本質的には、この構造的整合性により、再構成忠実度を損なうことなく、エンコーダの次元を大幅に削減できます。補足的な理論分析は、有限サンプル条件下でのトレンド推定の指針を提供します。合成データと実世界のベンチマークに関する広範な実験は、データ駆動の事前情報を組み込むことが収束を大幅に加速し、試行間の性能変動を減らし、計算効率を改善することを示しています。全体として、提案されたフレームワークは、標準的な初期化ベースラインを上回りつつ、コアとなるトレーニング手順を変更することなく、よりコンパクトで解釈性の高いアーキテクチャを実現します。