要旨: 重み付き点群である経験的測度（empirical measures）に対する、密な連想メモリを提案します。格納されるパターンとクエリは、有限に支持を持つ確率測度であり、検索は、脱偏（debiased）されたシンコーン（Sinkhorn）発散から構成されるホプフィールド型の対数和指数（log-sum-exp）エネルギーを最小化することによって定義されます。我々は、球面ヘリングガー・カントロビッチ（spherical Hellinger Kantorovich, SHK）の勾配流として検索ダイナミクスを導出し、この流れが支持点の位置と重みの双方を更新することを示します。この流れを離散化すると、シンコーンポテンシャルを用いてバリセントリック（barycentric）な輸送ステップを計算し、さらに乗法的な単体（simplex）再重み付けを行う決定論的アルゴリズムが得られます。局所的分離とPL型条件のもとで、バシン（basin）の不変性、局所最小解への幾何学的収束、ならびに最小解が対応する格納パターンに近いままであることを示す境界を証明します。さらに、ランダムなパターモデルのもとでは、これらのシンコーン・バシンが高確率で互いに素（disjoint）であることを示し、随伴する空間次元における指数的な容量を意味します。合成ガウス点群メモリに関する実験では、摂動を受けたクエリからの頑健な復元が、ユークリッド型ホプフィールド（Euclidean Hopfield-type）のベースラインと比べて確認されます。
球面ヘリングガー・カントロビッチ動力学に基づくシンクホーン連想記憶の検索
arXiv stat.ML / 2026/3/24
💬 オピニオンSignals & Early TrendsIdeas & Deep AnalysisModels & Research
要点
- 本論文は、格納されたパターンと検索クエリの両方を、有限個の点をもつ確率測度（重み付き点群）として表現する、密な連想記憶フレームワークを提案する。
- 検索は、デバイアス（補正済み）シンクホーン発散に基づく、ホップフィールド型の対数和指数（log-sum-exp）エネルギーを最小化する問題として定式化され、測度で表されるデータに対する確率的なエネルギー最小化の対応物を与える。
- 著者らは、球面ヘリングガー・カントロビッチ（SHK）勾配流として検索ダイナミクスを導出し、これにより検索される測度の「支持点（位置）」と「重み」の双方を同時に更新する。
- 離散化した決定論的アルゴリズムを提案し、シンクホーンポテンシャルを用いたバリセントリック（重心的）な輸送ステップと、勾配流を数値的に実装するための乗法的な単体（simplex）再重み付けを組み合わせる。
- 理論結果として、局所的な分離条件やPL型の仮定の下でのバスン不変性（basin invariance）と幾何学的収束が示される。さらに、ランダム・パターンモデルでは、高確率でシンクホーンのバスが互いに交わらず、その結果として次元に関して指数的な容量を持つことが示される。合成ガウス記憶に対する実験では、ユークリッド型ホップフィールドのベースラインに比べて頑健な復元が確認される。
