生成モデルの統計的評価可能性に関する理論的枠組み
arXiv cs.LG / 2026/4/8
💬 オピニオンSignals & Early TrendsIdeas & Deep AnalysisModels & Research
要点
- 本論文は、真の分布からの有限な保持済みi.i.d.テストサンプルを用いて、生成モデルを統計的にいつ・どのように評価できるかを理解するための理論的枠組みを提案する。
- 有限サンプルから、積分確率メトリクス（IPM）を、上界付きの加法/乗法近似誤差とともに推定できることを示し、さらにテストクラスが有限のfat-shattering次元を持つ場合には任意の精度で推定可能であることを示す。
- 本研究では、RényiダイバージェンスおよびKLダイバージェンスは、希少事象による推定が支配的になりうるため、有限サンプルからは信頼性高く評価できないと論じる。
- 生成モデル評価の指標としてのパープレキシティを検討し、その有用性と限界の両方を概説する。
