大規模言語モデルにおける生成広告のための、インセンティブを考慮したマルチフィデリティ最適化

要旨: 大規模言語モデル（LLM）の応答における生成型広告では、スポンサー配置を2つの厳しい制約の下で最適化する必要があります。それは、広告主の戦略的ふるまいと、確率的な生成に伴う高いコストです。これに対処するために、期待される社会的厚生を最大化することを目的として、Vickrey-Clarke-Groves（VCG）のインセンティブとマルチフィデリティ最適化を結合した統一的フレームワークである、Incentive-Aware Multi-Fidelity Mechanism（IAMFM）を提案します。2つのアルゴリズム的な具体化（除去ベースとモデルベース）を比較し、予算に依存する性能のトレードオフを明らかにします。重要な点として、VCGを計算可能な形にするために、支払い計算を効率化するための最適化データを再利用する「ウォームスタート」手法である、Active Counterfactual Optimizationを導入します。近似的な戦略耐性（strategy-proofness）と個人合理性（individual rationality）に関する形式的な保証を提示し、インセンティブ整合的で、予算制約のある生成プロセスに対する一般的なアプローチを確立します。実験により、IAMFMが多様な予算において単一フィデリティのベースラインを上回ることを示します。