差分プライバシー付きデータ生成器としてのLLMシミュレータの評価

要旨: LLMベースのシミュレータは、従来の差分プライバシー（DP）手法が高次元のユーザープロファイルにおいて難しい領域で苦戦する中、複雑な合成データを生成する有望な道筋を提供します。しかし、LLMはDPで保護された入力から統計分布を忠実に再現できるのでしょうか。私たちは、実ユーザー統計から導出したDP合成ペルソナで種付けした、エージェント型の金融シミュレータであるPersonaLedgerを用いてこの点を評価します。その結果、PersonaLedgerは詐欺検知の有用性において有望な性能（epsilon=1でAUC 0.70）を達成する一方で、時間的特徴および人口統計的特徴に関して入力統計を上書きする、体系的なLLMバイアス（学習された事前分布）により、分布のドリフトが大きく発生することが分かりました。これらの失敗モードは、LLMベースの手法が、本来であれば優れている可能性がある、より豊かなユーザー表現を扱えるようになる前に対処されなければなりません。