VoodooNet:高次元ランダム射影による解析的基底状態の達成

arXiv cs.AI / 2026/4/20

💬 オピニオンDeveloper Stack & InfrastructureIdeas & Deep AnalysisModels & Research

要点

  • VoodooNetは、SGDやバックプロパゲーションを、対数的な「Galactic Expansion(銀河拡張)」による高次元空間への射影と、閉形式の解析解で置き換える非反復型ニューラルネットワークを提案しています。
  • 入力マニフォールドを高エントロピーの「Galactic」空間に射影し、出力層はムーア=ペンローズの擬似逆行列を用いて1ステップで計算することで学習の反復を不要にします。
  • 実験ではMNISTで98.10%、Fashion-MNISTで86.63%の精度が報告され、Fashion-MNISTでは10エポックSGDのベースライン(84.41%)を上回り、学習時間は桁違いに短縮されたと述べています。
  • 射影次元と精度の間に、ほぼ対数的なスケーリング則が観測され、「Galactic」ボリュームが反復的な改良よりも性能を左右する可能性が示唆されています。
  • 著者らはこの「Magic Hat」アプローチを、従来の学習フェーズを回避して瞬時のマニフォールド探索に置き換えることで、リアルタイムのEdge AIへの新たな道を開くものだと位置付けています。

概要: 入力されたデータを操作する確率的勾配降下(SGD)のパラダイムを、銀河拡張(Galactic Expansion)による閉形式の解析解で置き換える、反復を行わないニューラルアーキテクチャVoodooNetを提案します。入力マニフォールドを、高次元かつ高エントロピーの「銀河(Galactic)」空間へ射影することで(d 784)、バックプロパゲーションに伴う熱力学的コストなしに、複雑な特徴をほどき(アンタングル)できることを示します。ムーア=ペンローズ疑似逆行列(Moore-Penrose pseudoinverse)を用いて出力層を1ステップで解くことで、VoodooNetは\textbf{MNISTで98.10\%}、\textbf{Fashion-MNISTで86.63\%}の分類精度を達成します。特に、Fashion-MNISTにおける本手法の結果は、10エポックのSGDベースライン(84.41\%)を上回り、学習時間を桁違いに削減します。次元数と精度の間には、ほぼ対数的なスケーリング則が見られます。これは、性能が「銀河」体積の関数であり、反復的な洗練(iterative refinement)ではないことを示唆します。この「マジックハット(Magic Hat)」アプローチは、伝統的な学習フェーズを省いて瞬時のマニフォールド発見へと置き換えることで、リアルタイムEdge AIに向けた新たなフロンティアを切り拓きます。

VoodooNet:高次元ランダム射影による解析的基底状態の達成 | AI Navigate