FoMo-X: 外れ値検出ファウンデーションモデルのモジュラーな説明可能性シグナル

概要: 表形式データの基盤モデル、特に Prior-Data Fitted Networks (PFNs)、は訓練なしの教師なしゼロショット適応を新しいデータセットに実現することで、外れ値検出（OD）を革新しています。
しかし、予測力がある一方で、これらのモデルは通常、不透明なブラックボックスとして機能し、安全性が極めて重要となる意思決定に必要な運用上の文脈を欠いたスカラー外れ値スコアを出力します。
既存の事後説明法は、リアルタイム展開には計算量的に高コストとなることが多い、あるいはゼロショット推論に内在するエピステミック不確実性を捉えきれません。
本研究では、OD基盤モデルに内在的で軽量な診断機能を備えたモジュラーなフレームワーク FoMo-X を紹介します。
事前学習済みPFNバックボーンの凍結済み埋め込みはすでに豊富で文脈依存の関係情報をエンコードしているという洞察を活用します。
FoMo-X はこれらの埋め込みに補助的診断ヘッドを追加し、バックボーンと同じ生成シミュレーターの事前分布を用いてオフラインで訓練します。
これにより、モンテカルロ・ドロップアウトに基づくエピステミック不確実性のような計算的に高価な特性を、決定論的で単一パスの推論へと蒸留することが可能になります。
FoMo-X を 2 つの新規ヘッドで具体化します。ひとつは逸脱を解釈可能なリスク階層へ離散化する Severity Head、もうひとつは較正済みの信頼度指標を提供する Uncertainty Head です。
合成データと実世界のベンチマーク（ADBench）での広範な評価は、FoMo-X が真の診断信号を高い忠実度で回復し、推論オーバーヘッドはほとんどないことを示しています。
基盤モデルの性能と実運用における説明可能性のギャップを埋めることにより、FoMo-X は信頼性のあるゼロショット外れ値検出へ向けたスケーラブルな道を提供します。