重ね合わせ（スーパーポジション）における神経システムの表象整合性を測定する

arXiv cs.LG / 2026/4/2

💬 オピニオンSignals & Early TrendsIdeas & Deep AnalysisModels & Research

共有:

要点

本論文は、RSA、CKA、線形回帰などの一般的な神経表象整合性指標が、ニューラルネットが各ニューロンに対して1対1で特徴を符号化するのではなく、重ね合わせで符号化する場合に、体系的に過小評価（ディフレート）され得ることを示す。
それらの不整合スコアは主として、基底にある潜在特徴の差ではなく、システムの重ね合わせ（投影／混合）行列の差を反映していると主張する。
特徴が部分的にしか重ならない場合、指標のバイアスによって期待される順位が反転し、より多くの特徴を共有するシステムよりも、共有が少ないシステムの方がより整合的に見えてしまうことがある。
著者らは、圧縮センシング（compressed sensing）によって、特徴が疎（スパース）であれば元の特徴を復元できるため、重ね合わせが必ずしも情報を失うことを意味しないと強調する。
著者らは、重ね合わせ空間における神経システム同士の正確な比較には、生の活性の混合を比較するのではなく、基底の特徴を抽出して整合させることが必要だと結論づける。