単一電子および単一光子の確率的物理ニューラルネットワークの学習

arXiv cs.LG / 2026/4/15

💬 オピニオンSignals & Early TrendsIdeas & Deep AnalysisModels & Research

共有:

要点

本論文では、従来の深層学習の代替として、純粋にデジタル計算によるのではなく物理プロセスを通じて学習と推論を行う確率的物理ニューラルネットワーク（PNN）を探究している。
確率的ニューロンの実装として2つを提案する。1つは量子ドットを介した単一電子のトンネル現象に基づく電子系の確率的ニューロンであり、もう1つは単一光子源が制御可能なビームスプリッタのような相互作用によって結合モードを駆動することに基づくフォトニック（光学）系の確率的ニューロンである。
学習は、確率的ニューロンモデルおよび、コヒーレントに駆動された単一光子検出器の確率的ニューロンを用いて行う。実験は、単一隠れ層の確率的PNNによるMNIST分類に焦点を当てている。
本研究では、確率性（stochasticity）と勾配推定を扱うための学習戦略を比較し、各層あたりの試行回数の数を変え、さらに逆伝播（バックワードパス）において真の確率を使うか経験的出力を使うかを選択する。
逆伝播において経験的出力を用いた場合、著者らは各層あたりの試行回数が少ないにもかかわらず97%超のテスト精度を報告している。大きなノイズとモデルの不確実性があるにもかかわらず高い性能を維持しており、確率的PNNが深層学習に対して実現可能であることを示唆している。

Abstract

深層学習に伴う計算需要は、計算への代替アプローチの調査を動機づけている。代替の一つは物理ニューラルネットワーク（PNN）であり、ここでは学習と推論が物理過程を通じて直接行われる。基礎となるニューロンが確率的活性化スイッチのダイナミクスによって実現されると、確率的PNNが生じる。ここでは、新しい電子およびフォトニックの確率的ニューロンを提案する。電子的実現は、量子ドットを介した単一電子トンネル効果によって実装される。フォトニック実現は、制御可能なビームスプリッタのような相互作用によって結合された2つのモードのうちの1つを駆動する単一光子源によって実装される。電子の場合では、量子ドットの電荷状態が確率的ニューロンの基礎となるのに対し、フォトニックの場合では、駆動されていないモードの占有が確率的ニューロンの基礎となる。確率的PNNの学習は、確率的ニューロンのモデルを用いて、また以前に導入されたコヒーレントに駆動された単一光子検出器の確率的ニューロンを用いて行われる。MNIST手書き数字の分類に関して、単一隠れ層の確率的PNNを用い、各層における試行回数を変えて順伝播の確率性を制御すること、ならびに勾配推定への影響を評価するために、逆伝播では真の確率または経験的出力のいずれかを用いること、という複数の学習戦略を調査した。逆伝播で経験的出力を用いると、各層につき少数の試行でネットワークが97 ot ％を超えるテスト精度を達成することを示す。モデル構造の単純さにもかかわらず、高度なノイズとモデル不確実性が存在する状況でも高いテスト精度が維持される。本結果は、深層学習のために確率的PNNを受け入れることの可能性を示している。