イーロン・マスクの会社 xAI は、識別可能な未成年者の性的虐待を含む画像をAIモデルが生成することを許しているとして責任を問われるべきだと、カリフォルニア州連邦裁判所に月曜日に提訴した3人の匿名原告が主張した。
3人の原告は、Grok によって未成年者としての実画像が性的内容へ改変された全ての人を代表する団体訴訟を起こしたいと考えている。彼らは、xAI が他の最先端ラボが実践している、実在の人物と未成年者を描くポルノを生成させないための基本的な予防策を取らなかったと主張している。
この訴訟は、Jane Doe 1、Jane Doe 2（未成年）、Jane Doe 3（未成年）を原告とする訴訟で、被告は x.AI Corp. および x.AI LLC、カリフォルニア北部地区連邦裁判所に提起された。
他の深層学習画像生成器は、通常の写真から児童ポルノの作成を防ぐため、さまざまな技術を用いています。本訴訟は、これらの基準が xAI に採用されていなかったと主張しています。
特に、実在の画像から裸体や官能的な内容を生成できるモデルは、子どもを含む性的内容を生成するのを防ぐことが事実上不可能である。イーロン・マスク氏が Grok の性的イメージ生成能力を公に宣伝し、実在の人物を露出度の高い衣装で描くことが訴状で大きく取り上げられている。
TechCrunch へのコメント依頼には同社は応じなかった。
原告の一人、Jane Doe 1 は、高校のホームカミングと年鑑の写真が Grok によって露出した姿に改変され、裸体として描かれていた。Instagram で彼女に連絡してきた匿名の情報提供者は、写真がオンラインで拡散していると伝え、彼女と学校で知っていた他の未成年者の性的な画像を特徴とする Discord サーバーへのリンクを送った。
Disrupt 2026: 技術エコシステム、すべて一堂に集結
次の資金調達ラウンド。次の採用。次のブレークスルー機会。 TechCrunch Disrupt 2026 で見つけてください。1万人以上の創業者、投資家、テックリーダーが集い、3日間にわたって250以上の実践的セッション、力強い紹介、そして市場を定義する革新を実現します。今すぐ登録して最大400ドルを節約しましょう。
TechCrunch Founder Summit 2026 への登録は最大300ドルまたは30％割引
1,000人以上の founders と投資家が TechCrunch Founder Summit 2026 に集まり、成長、実行、現実世界でのスケーリングに焦点を当てた1日のイベントのために TechCrunch Founder Summit 2026 に集まり、成長、実行、現実世界でのスケーリングに焦点を当てた1日を過ごします。業界を形作ってきた創業者と投資家から学び、同様の成長段階を進む仲間とつながり、すぐに適用できる戦術を手に入れましょう。
オファーは3月13日までです。
別の原告である Jane Doe 2 は、Grok モデルに依存する第三者のモバイルアプリによって作成された、改変された性的画像について刑事調査官から通知を受けた。3人目の Jane Doe 3 も、逮捕した人物の携帯電話で改変されたポルノ画像を発見した刑事調査官から通知を受けた。原告の代理人は、第三者の使用が依然として xAI のコードとサーバーを必要とするため、同社は責任を負うべきだと述べている。
3人の原告はいずれも未成年である2人を含む、これらの画像の流通とそれが彼らの評判・社会生活に与える影響について極度の苦痛を感じていると述べている。彼らは、搾取された子どもを保護し企業の過失を防ぐための一連の法律の下で民事罰を求めている。
