LLM-HYPER：LLMベースのハイパーネットワークによるコールドスタート広告パーソナライゼーションのための生成CTRモデリング

要旨: オンライン広告プラットフォームでは、導入されたばかりのプロモーション広告が、モデル学習に十分なユーザーフィードバックを欠くため、コールドスタート問題に直面します。本研究では、LLM（大規模言語モデル）をハイパーネットワークとして扱い、学習なしでクリック率（CTR）推定器のパラメータを直接生成する新しい枠組み「LLM-HYPER」を提案します。LLM-HYPERは、多モーダル広告コンテンツ（テキストと画像）に対して少数ショットのChain-of-Thoughtプロンプトを用い、線形CTR予測器のための特徴ごとのモデル重みを推定します。CLIP埋め込みによって意味的に類似した過去のキャンペーンを検索し、それらをプロンプトベースのデモンストレーションとして整形することで、LLMは顧客の意図、特徴の影響、コンテンツの関連性について推論することを学習します。数値的安定性と運用可能性を確保するために、生成された重みを、本番で扱えるCTR分布に整合させる正規化およびキャリブレーション手法を導入します。大規模なオフライン実験の結果、LLM-HYPERはNDCG@10においてコールドスタートのベースラインを55.9 am上回ることが示されました。さらに、米国のトップ級のECプラットフォームの1つにおける実運用のオンラインA/Bテストでは、LLM-HYPERの強力な性能が示されました。これによりコールドスタート期間が大幅に短縮され、競争力のある性能を達成しています。LLM-HYPERは本番環境に正常に導入されています。