1年ちょっと前に、MGはアリゾナ州スコッツデールで20代後半の女性として比較的普通の生活を送っていました。彼女はパーソナルアシスタントとして働き、週末はウェイティングスタッフとして働いて収入を補っていました。同年代の多くの女性と同様に、彼女にはInstagramアカウントがあり、たまにストーリーや写真を投稿しては、友人たちと抹茶を飲んだり、プールのそばでくつろいだり、あるいはピラティスに行った様子を共有していました。
「正直、SNSでバズって人気者になろうなんて、あまり気にしたことはなかったんです」 とMGは語ります（訴訟では身元を守るため、MGというイニシャルのみで引用されています）。「私は、最初に出てきたときに大半の人がしたように、いちばん近い人たちと自分の生活を分かち合うために使っていました」 フォロワーは9,000人ちょっと。しっかりした数ではあるものの、大きなプラットフォームほどではありません。
昨年の夏、彼女はフォロワーの一人からDMを受け取りました。その人は尋ねました。MGにそっくりの見た目の女性の写真や動画が、Instagramで出回っているのを彼女は知っていたのか、と。MGはリンクを開き、自分の顔にそっくりだと思われるものが、まるで本人そのもののように見える身体に重ねられた複数のReelsを確認しました。写真の女性は露出の多い服装で、タトゥーの場所もMGと同じでした。
MGは恐ろしくなりました。「もし私のことをよく知らない人なら、それが私の画像だと思ってしまう可能性も十分あったでしょう」 と彼女は言いました。「まさに、“自分のイメージを自分でコントロールできないんだ”という現実確認みたいなものでした」
さらに、ネット上で出回っていたのが、彼女が最近提出した訴状で詳述したような、本人のヌード写真や露出の多い写真だけではないと分かったとき、彼女の衝撃はさらに大きくなりました。それらはまた、男性に対して自分たちのAIインフルエンサーを作る方法を教えるプラットフォーム「AI ModelForge」の宣伝にも使われていたのです。オンラインの一連のクラスやチュートリアルの中で、男性たちは容疑として、CreatorCoreというソフトを使い、警戒心のない若い女性たちの写真を使ってAIモデルを訓練し、その結果のコンテンツをInstagramやTikTokに投稿するよう、加入者に教えたとされています。
「彼らは“台本”のように一式を用意していて、間違っても自分を守れる人ではなく、うまく防御されない相手をどう選ぶかといった指示も含まれていました。使うべき女性のタイプや、写真をどこで手に入れるかについての指示も、みんなありました」 と彼女は主張します。「本当に、あらゆる面で気持ち悪いことでした」
MGは、1月にアリゾナ州で提起された訴訟における3人の原告のうちの1人です。この訴訟は、フェニックスの3人の男性（Jackson Webb、Lucas Webb、Beau Schultz）に加え、他に50人の「John Does」を相手にしています。訴状では、Webb夫妻とSchultzが、警戒心のない若い女性の写真をインターネット中から探し出したうえで、彼女たちにそっくりな架空のモデルの写真や動画をAIで生成し、そのようなコンテンツをサブスクリプション型プラットフォームFanvueで販売していたとされています。
さらに訴状では、男性たちはプラットフォームWhopで月額24.95ドルを支払わせることで、訴訟で名指しされているJohn Doesを含む他の男性に対し、実在の女性の写真をもとに自分たちのAI生成インフルエンサーを作る方法を、オンライン講座として販売していたと主張しています。男性たちは容疑として、女性のソーシャルメディアアカウントから画像をスクレイピングしてCreatorCore上の生成AIモデルに投入する方法についての「設計図」だけでなく、女性の服を取り除き、露骨な性的表現を含む画像や動画を生成する別のアプリも作ったとされています。訴状によれば、そのようなコンテンツは数百万回の再生を生み、1か月で5万ドル超の収入を生んだと報じられています（Webb夫妻とSchultzはコメント要請に応じていません）。
この金儲けの仕組みは、苦情（complaint）によれば、「警戒心のない女性や少女の、見分けのつかないAIコピーの“ハーレム”」につけ込み、またソーシャルメディア上の「女性を“狩ろうとする”捕食者たち」に向けて指示を出すものでもあったとされています。訴状によれば、2025年にはCreatorCoreのプラットフォームに8,000人以上の登録者がいて、自分たちのAIインフルエンサーを生成しており、その結果50万枚超の画像と動画が生み出されたとのことです。
AI ModelForgeは、いわゆる「AIインフルエンサー」を自分たちで作り出す方法を男性たちに教えることで、人工知能の広範な利用を追い風に儲けようとしているように見える、新興企業の数あるうちの1つです。Xのようなプラットフォームでは、自称起業家たちが自身の特許を取得したやり方を、AIモデルから数十万ドルを稼ぐ方法として<賞賛>しています。手早く小銭を稼ぎたいと考える、若いテックに詳しい男性たちを引き込みます。
「このような状況が広がっていることは、私にとって衝撃でした」と、Nick Brandは言います。同氏は弁護士のCristina Perez Hasanoとともに、MGおよび他の2人の原告を代理しています。訴訟では、AI ModelForgeの背後にいるとされる若い男性たちが「平均的なソーシャルメディアのプロフィールやフォロワー数を持つ、普通の身近な人々を狙っている」とされています。この事件のより陰湿な要素の一つが何なのかについて、Brandはインタビューの中で、他の男性が「被害者を見つける」方法を学ぶために女性の画像を使うことだと主張します。訴状によれば、被告らは「法的な問題」を避けるため、フォロワーが5万人未満の女性を狙うよう、加入者を促していました。
「この連中は、生成AIを使って女性の衣服を脱がせるだけではありません。女性の画像を使って同じことをするようになる、ほかの男性や少年たちに、それを可能にする能力そのものを売っているんです」とBrandは主張します。MGおよび他の2人の原告は、「他の女性を傷つける製品の顔」だと同氏は言います。まるで「両親を強制送還された人を、ICE（移民関税執行局）の顔にする」ようなもので、恐ろしいことだとしています。
技術的には、同意のないAI生成ポルノの拡散を阻止する連邦法があります。Take It Down Actは、トランプ大統領が2025年5月に法律として成立させたもので、同意のない性的なAI生成コンテンツの公開を違法とし、フラグが立てられた場合には48時間以内にプラットフォームがそのようなコンテンツを削除することを求めています。そして米国の多くの州、たとえばアリゾナ州でも、いわゆる「ディープフェイク」ポルノを禁止する法律を成立させてきました。ただしTake It Down Actは2026年5月まで施行されません。また州の法律は「先回りして予防するというより、事後対応になりがち」だと、アリゾナ州の州議会議員Nick Kupperは述べています。
今年のはじめ、Kupperはアリゾナ州議会に法案を提出し、同意のないAIコンテンツがアップロードされないよう、年齢確認や同意フォームなどの自動検出ツールをWebサイトに使わせることを求めました。「一度オンラインに上がってしまうと、基本的には永遠にそこに残ります。被害者は削除しようとして何百万ドルも使うとしてもです。ワニに穴を叩き込むみたいなものですよ。1つ叩けば、また別のが出てくる」
現時点では、AI ModelForgeのLinktreeページを訪れると、「TaviraLabs」としてブランド名を変えた、同じ事業のように見える案内が表示されます。メンバーが18,000人超のTelegramグループで、自らを「#1 AIインフルエンサー・コーチング・コミュニティ」と宣伝しています。さらに訴訟では、AI ModelForgeを宣伝するために被告らが使っていた、12以上のInstagramアカウントも挙げられており、その多くは今も活動しています。訴状には、そのようなアカウントがどのように投稿を続けているかが詳述されており、幼さの残る女性の写真、速い車、高価な時計を投稿し続けているとされています。そしてキャプションとして、「彼女は僕のガールフレンドじゃない。僕のいちばん稼ぐ給料持ちの従業員なんだ」とか、「POV：君が彼女を20分で作って、最初の45日で君に13.2kドルを稼がせた」などと書いているのです。
MGおよび他の原告たちは、継続的にInstagramに対して画像の削除を求めているにもかかわらず、多くの画像はまだ残っていると彼女は主張します。それは、技術的には、AI生成コンテンツに関するInstagramのガイドラインに違反していないからだというのです。コメントを求めてInstagramに連絡したところ、Instagramのスポークスマンは「AIで生成されたもの／AIではないものの双方に関する、同意のない親密な画像についての“非常に厳格なポリシー”がある」とし、そのようなコンテンツを投稿するアカウントを削除していると述べました。AI ModelForgeに関連していると考えられる多数のアカウント（十数件）の一覧を提示すると、スポークスマンは、それらは調査中だと答えました。
訴訟はまた、男性側のビジネスを宣伝する複数のTikTokアカウントを挙げています。コメントを求めてTikTokに連絡したところ、TikTokのスポークスマンは、それらのアカウントはコミュニティガイドラインに違反していることが判明し、削除されたと述べました。
MGは、AI Model Forgeによって生成された画像は彼女自身の写真と十分に異なるため、悔しくはありますが、そのアカウントが自分をなりすましていると主張できなかったと言います。これもInstagramのガイドライン違反です。「それは私の顔、私の入れ墨が、少し違う体で、別の服装になっているだけです」と彼女は言います。「これは、単なるランダムなAI生成の人物ではなく、現実の女性が変えられているものです」
MGは、自分の身近な人たちが自分についての性的で、AI生成された画像（ポルノ）を見るのではないかという恐怖に常にさらされていますが、訴訟を起こしたことで、少しだけ主体性を取り戻せたとも言います。「私たちは、壁際に追い詰められた場所に置かれていました。だから私は、ほかの女性にも、人生を止められるわけではないと分かってほしいんです」と彼女は言います。
それでも、フォロワーが1万人未満の女性であるMGに起きたことは、オンライン上で少しでも公開性がある人なら、ほぼ誰にとっても気の遠くなるような意味を持ちます。
「オンラインで自分の画像を慎重に扱うことが問題ではありません。今は誰もがSNSに投稿しているからです」と彼女は言います。「誰もがLinkedInにいます。誰もがInstagramにいます。そして、これは自分に起こり得ることだと、人々に気づいてほしい」
