パーソナライズ“トリック”が検知器を破る：生成文検知における特徴反転トラップ

要旨: 大規模言語モデル（LLM）は言語生成においてより強力になり、流暢な文章を生成したり、さらには個人の文体を模倣したりできるようになりました。しかし、この能力は、なりすましによるアイデンティティ偽装のリスクも高めます。私たちの知る限り、パーソナライズされた機械生成テキスト（MGT）の検出を扱った先行研究はありません。本論文では、文学およびブログのテキストと、それに対するLLMによる模倣文のペアから構築した、パーソナライズされた設定における検出器の頑健性を評価するための最初のベンチマークである dataset を提案します。実験結果は、パーソナライズされた設定において検出器間で大きな性能差が生じることを示しています。すなわち、最先端モデルの一部は顕著な性能低下に悩まされています。私たちは、この制約を extit{特徴反転トラップ（feature-inversion trap）} に起因すると考えます。ここでは、一般領域で識別的である特徴が、パーソナライズされたテキストに適用されると反転して誤解を招くものになるのです。この発見に基づき、パーソナライズされた設定における検出器の性能変化を予測するための単純かつ信頼性の高い手法である method を提案します。 method は、反転した特徴に対応する潜在方向を特定し、検出器への依存が主にこれらの特徴に沿って異なるプローブ用データセットを構築します。実験により、 method は転移後の変化の方向と大きさの両方を正確に予測できることを示しており、実際の性能ギャップとの相関は85 extrm{%} です。本研究が、パーソナライズされたテキスト検出に関するさらなる研究を促進することを願っています。