オートエンコーダ特徴分析のための安定なニューラル統計的依存推定器
arXiv cs.LG / 2026/3/13
💬 オピニオンIdeas & Deep AnalysisModels & Research
要点
- 本論文は、入力・潜在表現・再構成間の依存性を定量化するための変分ガウス形式を用いた安定なニューラル依存推定器をオートエンコーダ特徴分析のために提案します。
- 正規直交密度比分解を導入し、MINE などと比較して安定性を向上させ、計算コストを低減します。
- 本手法は入力の連結と周辺積の再ペアリングを回避し、依存性推定における主要なスケーラビリティと安定性の課題に対処します。
- 効率的な NMF に似たスカラー目的関数を提案し、補助変数としてガウスノイズを仮定することで、特徴分析のための意味のある依存性測定を可能にします。
- 実験結果は特異値の逐次収束を示し、定量的なオートエンコーダ特徴分析に対する本手法の有効性を裏付けます。
相互情報量のような統計的依存性測度はオートエンコーダを分析するのに理想的ですが、決定論的・静的・ノイズレスなネットワークでは適切に定義できないことがあります。私たちは、入力・潜在表現・再構成間の依存性を測定可能にする変分（ガウス）形式を採用し、正規直交密度比分解に基づく安定なニューラル依存推定器を提案します。MINEとは異なり、私たちの手法は入力の連結と周辺積の再ペアリングを回避し、計算コストの削減と安定性の向上を図ります。効率的な NMF に似たスカラー目的関数を導入し、補助変数としてガウスノイズを仮定することで、有意義な依存性測定を可能にし、定量的な特徴分析をサポートします。特異値の逐次収束を経験的に示し、依存測定が連続的に収束することを示します。
