AutoStan：予測フィードバックによる自律的ベイズモデル改善
arXiv cs.LG / 2026/3/31
📰 ニュースSignals & Early TrendsIdeas & Deep AnalysisModels & Research
要点
- AutoStanは、CLI上のコーディングエージェントがStanで書かれたベイズモデルを自動で生成し、MCMC実行を通じて反復的に改善するフレームワークである。
- 改善の判断は、持ち出しデータでのNLPD（負の対数予測密度）に加え、発散・R-hat・有効サンプルサイズなどのサンプラ診断という2系統のフィードバックを組み合わせて行う。
- 合成回帰（外れ値あり）では、単純な線形回帰からStudent-tの頑健化、非線形かつ異分散な構造、汚染混合（contamination mixture）へと段階的に進み、解釈可能なままTabPFNに匹敵または上回る性能を示した。
- 他の4つの実験でも、階層的部分プーリング、相関ランダム効果を伴う変化する傾きモデル、サッカーの攻守のPoissonモデルなど、多様なベイズモデリングに対して同一メカニズムが有効に働いた。
