高密度連想記憶におけるリトリーブの熱的頑健性: LSE 対 LSR カーネル

要約: 密集連想記憶におけるリトリーバルが熱雑音に耐えるかどうかは、零温度の容量証明と実用的推論および生物計算の有限温度条件を結ぶうえで不可欠である。私たちはモンテカルロ・シミュレーションを用いて、指数関数的な数の格納パターン M = e^{\alpha N} を有する N-球上の2つの連続的密集連想記憶（DAM）のリトリーバル相境界を写像する: log-sum-exp（LSE）カーネルと log-sum-ReLU（LSR）カーネル。両カーネルは零温度の臨界負荷 \alpha_c(0)=0.5 を共有するが、有限温度での挙動は顕著に異なる。LSEカーネルは、荷重が十分低い場合、任意の高温でリトリーバルを維持する一方、LSRカーネルは、どの温度でもリトリーバルが完全になる有限の「サポート閾値」を示す。典型的なシャープネス値では、この閾値は \alpha_c に近づき、全荷重範囲でリトリーバルをほぼ完璧にする。さらに、回復域内で測定された平衡整列を解析的ボルツマン予測と比較する。