意味の代償：なぜすべての意味記憶システムが忘却するのか

arXiv cs.AI / 2026/3/31

💬 オピニオンSignals & Early TrendsIdeas & Deep AnalysisModels & Research

共有:

要点

本論文は、埋め込み空間において意味によって想起が組織化される意味記憶システムが、意味の一般化を可能にする基盤となる幾何学により、必然的に干渉、忘却、そして誤った想起に直面することを証明する。
意味的に連続なカーネル閾値型メモリに関するトレードオフを定式化し、有用な表現に対する有限の有効ランク、「想起近傍における必然的な競合者（competitor）の質量」、特定の到着統計におけるべき乗則の忘却などの結果を導出する。
誤った想起は、デルタ凸性条件を満たす連想的な誘引（associative lures）に対して、閾値調整だけでは完全には除去できないことを示す。
5つのアーキテクチャ（ベクトル、グラフ、注意に基づくコンテキスト、BM25による検索、パラメトリック・メモリ）にまたがる実験により理論を支持する。純粋な意味システムは直接の忘却／誤った想起を示す一方、推論拡張型システムは劣化をより深刻な失敗モードへと移し替える可能性がある。
著者らは、干渉を回避するには意味の一般化を犠牲にする必要があるため、「意味の代償」は検証したすべてのアーキテクチャにおいて避けられないと結論づけている。