PRAGMA: Revolutの基盤モデル
arXiv cs.LG / 2026/4/13
💬 オピニオンIdeas & Deep AnalysisModels & Research
要点
- PRAGMAは、銀行の多様なイベント系列（離散・可変長の取引/イベントデータ）を扱うTransformerベースの財務向け基盤モデル群として提案されています。
- 大規模でヘテロな銀行イベントコーパス上で、金融記録の性質に合わせた自規教師（マスクドモデリング）目的により事前学習を行います。
- クレジットスコアリング、詐欺検知、ライフタイムバリュー予測などの下流タスクに対して、抽出した埋め込みの上に線形モデルだけでも強い性能が出せ、軽量な微調整でさらに改善できると述べています。
- 生のイベント系列から複数ドメインにまたがって優れた性能を示し、金融アプリケーションの汎用表現レイヤーになり得ることが評価で示されています。
