逆行列不要のスパース変分ガウス過程(Inverse-Free Sparse Variational Gaussian Processes)
arXiv stat.ML / 2026/4/2
📰 ニュースIdeas & Deep AnalysisModels & Research
要点
- 本論文は、疎な変分ガウス過程のスケーラビリティ上のボトルネックに対処するため、低精度かつ大規模並列のハードウェアに適合しにくいコレスキー分解ベースの計算を回避する。
- より良く条件付けされた逆行列不要の変分下界を提案し、補助パラメータに対する安定性と収束性を改善するための、matmul(行列積)のみで構成された自然勾配更新則を導出する。
- 著者らは、既存のSVGPワークフローに最適化ルーチンを統合できるようにするため、ステップサイズのスケジュールや停止基準などの実用的なヒューリスティックを追加する。
- 回帰および分類のベンチマークに関する実験により、本手法は(ディープGPを含む)SVGPベースのモデルのドロップイン置換として機能でき、チューニングによっては同等の性能を達成しつつ実行時間が短くなることもあることが示される。