一度設計して、大規模に展開：大規模モデル・エコシステムのためのテンプレート駆動型ML開発

要旨: 現代の計算広告プラットフォームは通常、クリック率、コンバージョン率、その他の最適化イベントといったユーザーの反応を予測するために、レコメンデーションシステムに依存しています。多種多様なプロダクトの表面（プロダクトサーフェス）や広告主の目標に対応するため、これらのプラットフォームはしばしば膨大な数の機械学習（ML）モデルからなるエコシステムを維持しています。しかし、この規模で運用することは、重大な開発および効率上の課題を生み出します。MLモデルを定期的に更新し、新たな手法をエコシステムへ伝播させるには多大なエンジニアリング努力が必要となり、その結果、MLイノベーションをエコシステム全体に展開する際に長いレイテンシが発生します。
本研究では、レコメンデーションシステムにおいて、標準化されたモデル構築アプローチと、モデルごとに独立して行う最適化との間で、モデル性能、効率、そしてML手法の伝播を大規模に実証的に比較します。これを標準化のために、Standard Model Template（SMT）――高性能なモデルを生成し、多様なデータ分布や最適化イベントに適応可能にする枠組み――を提案します。標準化された、組み合わせ可能なMLモデル構成要素を利用することで、SMTは手法伝播の複雑性を O(n \cdot 2^k) から O(n + k) へと低減します。ここでnはモデル数、kは手法数です。
Metaのプロダクション広告ランキングのエコシステム内で、4つのグローバルな開発サイクルにわたって広範なモデル群を評価した結果、次が示されました: (1) 中立的な配信容量における交差エントロピーの平均で0.63%の改善、(2) モデルごとの反復のためのエンジニアリング時間を92%削減、(3) 手法とモデルのペアの採用スループットを 6.3\times 向上。これらの知見は、多様な最適化目標がそれ自体、必然的に多様なMLモデル設計を必要とするという従来の常識に挑戦します。