LLMウォーターマーキングにおけるより良い統計的理解に向けて

要旨：本論文では、大規模言語モデル（LLM）のウォーターマーキングの問題を研究します。モデルの歪みと検出能力の間のトレードオフを考え、この関係を red-green リスト・ウォーターマーキングアルゴリズムに基づく制約付き最適化問題として定式化します。最適化問題の最適解が、良い解析的性質を備えていることを示し、それによってウォーターマーキング処理のためのアルゴリズム設計をよりよく理解できるようになり、着想も得られます。この最適化定式化に基づき、オンラインの双対勾配上昇型ウォーターマーキングアルゴリズムを開発し、モデルの歪みと検出能力の間における漸近的パレート最適性を証明します。この結果は、（これまでの結果とは対照的に）平均化された形でグリーンリスト確率が明示的に増加し、それゆえ検出能力が向上することを保証します。さらに、ウォーターマーキング問題におけるモデル歪み指標の選択について、体系的な議論を行います。KLダイバージェンスの選択を正当化し、「歪みなし（distortion-free）」およびパープレキシティの既存基準に関する問題点を提示します。最後に、広範なデータセットに対して提案アルゴリズムをベンチマークアルゴリズムと比較する形で、実験的に評価します。