先週、テイラー・スウィフトは、自身のイメージと声を守るために商標出願の3件を提出し、自身のイメージと声を守ろうとしました。そのうち1件は、ポップスターが史上記録を更新した「Erasツアー」のコンサート中にピンクのギターを手にしているよく知られた写真をカバーするためのものです。一方で残り2件の「音」に関する商標は、単純な識別用のフレーズに対応しており、「Hey, it’s Taylor Swift（ねえ、テイラー・スウィフトだよ）」および「Hey, it’s Taylor（ねえ、テイラーだよ）」です。
この動きは、AIディープフェイクがソーシャルメディア上で増殖し続けていることを背景にしています。個人のイメージが、同意のないAI生成コンテンツの作成に悪用されるリスクは誰にでもあります。今月上旬、オハイオ州の男性が、新しい連邦法にもとづいて「この種の」いわゆる“親密な”視覚的欺瞞を犯罪化する行為について最初の有罪判決を受けた人物となりました。こうした一方で、著名人は露骨なディープフェイクと、誤った支持（推薦）の両方の危険にさらされます。
AI検出企業のCopyleaksによる新しいレポートは、スウィフトや他のスターのイメージが、最近、詐欺めいた広告で使われていることを示しています。研究者たちは、TikTok上でスポンサー付きの動画のまとまりを特定しました。そこではスウィフト、キム・カーダシアン、リアーナなどが、「不正の可能性がある、あるいは悪意のあるサービス」を推奨しているように見えました。動画のクリップでは、研究者が「現実味のある声」と呼ぶものだけでなく、「AIが生成した映像の欠点の一部を隠すための、質感のあるフィルター」も使われていました。
偽の広告では、スウィフトらが、一般的なインタビューの場面のように見える状況――レッドカーペットのイベントやトーク番組のセット――で登場しています。しかし質問に答えるのではなく、AI生成の“有名人”たちは、TikTokユーザーが自分に表示されたコンテンツへのフィードバックを提供することで報酬を受け取る、とされる報奨プログラムについて語ります。
「今週はデジタル行動について読んでいて、『TikTok Pay』というテスト用の機能を見つけました」と、ディープフェイクされたスウィフトが、実際のスウィフトがジミー・ファロン主演の『トゥナイト・ショー』で10月に行ったものを加工した映像を使う広告の中で語っています。「特定のユーザーが招待されて動画を視聴し、意見を提出することになっています。」さらにディープフェイクのスウィフトは、そのプログラムが現時点では「限定的に展開中」だと続けつつ、視聴者に対して「自分が対象かどうか確認してみてください」と促し、こう付け加えます。「ページがあなた向けに開いたとしても、深く考えすぎないでください。」
当然ながら、クリックした人は誰でも受け入れられます。これらの広告は最終的に、TikTokという名前やロゴとは裏腹に、LovableというAIプラットフォームで雰囲気（ビブ）に基づいて作られたことが明らかで、その独自のブランディングがページやURLに表示されている第三者サービスへユーザーを誘導します。この時点で研究者によると、ユーザーは氏名や個人情報の入力を開始するよう求められます。
広告主が、著名人のディープフェイクの宣伝を通じて吸い上げたあらゆるデータを何に使おうとしているのかは定かではありませんが、同様の目的を持つ詐欺広告は非常に一般的です。先週、非営利団体の米国消費者連盟（Consumer Federation of America）は、FacebookとInstagram上の詐欺広告についてMetaを提訴し、同社が詐欺広告を取り締まる取り組みについてFacebookとInstagramのユーザーを誤解させた――そして、そうした広告が広がることを許したことで利益を得た――と主張しました。月曜日には、米連邦取引委員会（FTC）が報告したところによると、ソーシャルメディア詐欺は全体として急増しており、Facebookの詐欺が金銭的損失の総額で最も多い割合を占めています。
スウィフトとその仲間たちが、このような不正な経済圏から距離を取るために法的措置を講じていることに驚くには当たりません。スウィフトは商標出願の背後にある理由について公にコメントしていないものの、欺瞞的なディープフェイクが彼女の数十億ドル規模のブランドに与える風評被害は、とても見過ごせません。問題は、それらが日ごとにより巧妙になっていくことです。
