特異な統計モデルの可観測な幾何学

arXiv stat.ML / 2026/4/3

💬 オピニオンIdeas & Deep AnalysisModels & Research

共有:

要点

本論文は、複数のパラメータ値が同一のデータ分布を生み出してしまう「特異な統計モデル」を扱う。これにより識別不能性が生じ、標準的な漸近理論が成り立たなくなる。
著者らは、「観測可能チャート（observable charts）」を用いたパラメータ化不変な幾何学的枠組みを提案する。これは、モデル空間上の確率測度を直接識別し得る分布汎関数の集合である。
著者らは、識別可能な方向を検出する能力と、解析的摂動下での高次の識別可能性の強さをそれぞれ測るために、「観測可能完全性（observable completeness）」と「観測可能順序（observable order）」を定式化する。
主定理は、観測可能順序が、解析的な経路に沿ってカルバック–ライブラー（Kullback–Leibler）ダイバージェンスがどれだけ速く縮小するかの下界を与えることを示し、内在的なモデルの幾何学と統計的識別可能性を結び付ける。
この枠組みを、縮約階数回帰（reduced-rank regression）やガウス混合モデルに適用する。正則な場合には古典的なふるまいを回復し、特異な設定では特異な退化（singular degeneracies）を明らかにする。

Abstract

異なるパラメータ値が同一の分布を誘導する場合、特異な統計モデルが生じる。このことは識別不能性をもたらし、古典的な漸近理論の破綻につながる。既存のアプローチはこれらの現象をパラメータ空間上で解析するが、その結果得られる記述はパラメータ化に強く依存し、モデルに固有の統計構造が見えにくくなる。本論文では、 \emph{観測可能チャート（observable charts）}に基づく不変な枠組みを導入する。これは、確率測度を識別するデータ分布の関数作用素の集まりである。これらのチャートは、パラメータ化とは無関係に、モデル空間上で直接局所座標系を定義する。さらに、 \emph{観測可能完全性（observable completeness）}を、そのようなチャートが識別可能な方向を検出できることとして形式化し、解析的摂動に沿った高次の識別可能性を定量化するために \emph{観測可能順序（observable order）}を導入する。我々の主結果は、緩やかな正則性条件の下で、観測可能順序が、解析的な経路に沿ってクックバック・ライブラー（Kullback-Leibler）ダイバージェンスが消失する速度に対する下界を与えることを示す。これは、モデル空間における固有の幾何学的構造と統計的識別可能性を結び付け、正則モデルにおける古典的なふるまいを回復するとともに、特異な状況へ自然に拡張する。縮約階数回帰およびガウス混合モデルにおいて、この枠組みを具体的に示す。そこでは、観測可能座標が、識別可能な構造と特異な縮退の両方を明らかにする。これらの結果は、観測可能チャートが特異なモデルを研究するための統一的でパラメータ化不変な言語を提供し、学習係数のような不変量についての固有な定式化へ向かう道を与えることを示唆している。