ジュリー・カーペンターは チャットボットを擬人化する人間のユーザーを全く非難していません。長年の人間とAI の相互作用の専門家であり、The Naked Android の著者は、ChatGPT のような生成AIツールを、社会的な経験を再現するように高度に個人化された記憶と相互作用を通じて、ユーザーからこの反応を引き出すよう意図的に設計されていると見なしています。
この一方的なつながりは、AI生成のエロティカがオプションとして追加されたとき、さらに複雑になり、場合によっては壊滅的になる可能性があります。カーペンターは、OpenAI が ChatGPT と成人がセクストでやり取りできるようにする今後の計画について不安を示しています。"人々が自分の性的嗜好を探求することには賛成ですが、それが自分にとって安全で楽しい方法であることを望みます」と彼女は述べています。「データには監視の側面があるという点を、人々は十分認識しておく必要があります。」
OpenAI は、成人ユーザーが ChatGPT を使ってエロティカを生成できるようにする可能性を、2 年前に公式文書の中で初めて示唆しました。まだ最終リリースを計画しているようには見えるものの、タイムラインは不透明です。「The Wall Street Journal」の報告によれば、OpenAI の外部専門家による助言評議会は、今後の公開に伴うリスク、特に“セクシーな自殺コーチ”の可能性について懸念を表明しています。WIRED が取材した際、OpenAI はコメントを控えました。
機械と話す際の下品な会話をする人々、ChatGPT のようなAIと話す人々は、決して新しい現象ではありません。"人々が結局やろうとすることを、彼らは金銭化したいと考えているのだろう"と、キングス・カレッジ・ロンドンのAIと社会の教授ケイト・デブリンは語ります。彼女の研究はデジタル性的な領域にも及びます。
ここで特筆すべきは、OpenAI が主流プラットフォーム上で性的描写を受け入れる可能性です。エロティックなチャットボットは収益を生むビジネスですが、多くは目立たない名前のニッチなサイトや、非同意のディープフェイク画像で知られる Elon Musk の Grok に追いやられ、MechaHitler モードへと移行します。
アダルトモードがリリースされると、ChatGPT がユーザーの性的嗜好について正確に何を記憶しているのかを見るのは興味深いでしょう。過去数年間、OpenAI はチャットボットの記憶機能を継続的に改善しており、ユーザーの嗜好を記録してパーソナライズされた出力で応答します。あなたはベジタンですか？ レストランのアイデアを尋ねられたとき、ChatGPT はステーキハウスを勧めません。ハイキングに行きたいですか？ 過去のチャットからあなたがサンフランシスコにいることを知っており、位置情報の文脈がプロンプトに含まれていなくても、近くの適切なコースを提案します。
しかし、この種のデータ記録と超個別化が、数百万人の成人 ChatGPT ユーザーの性的なメッセージ習慣と出会ったとき、どうなるでしょうか。ChatGPT とのエロティックなやり取りは、ユーザーのプライバシーに対するリスクを一層高めます。
あなたの食事嗜好や最も好きな映画のタイプを覚える代わりに、ChatGPT は獣人ポルノへの妄想の度合いや、ビーチでのトリプルプレイ、尿プレイといった性的詳細をいかほど想像していたかを記憶し、それらの性的詳細を念頭に日々の回答を調整することもあり得ます。OpenAI がこれらの成熟した会話をどのように扱う予定なのかは、依然として不明です。
ローンチ時にエロティック版の ChatGPT とやり取りすることを選ぶ人は、"一時的なチャット"機能に安堵を見いだすかもしれません。この機能を有効にすると、これらの会話はユーザーのログ履歴に表示されず、OpenAI のモデルの改善にも使用されません。
しかし、これらのチャットは、ユーザーが感じるほど儚いものではありません。OpenAI のウェブサイトには「安全性のため、最大で30日間のコピーを保持する場合があります」と記載されています。また、サイトのページには「特定のサービスのデータ保持は最近の法的動向の影響を受ける可能性がある」という注意書きも添えられています。
Smutty AIチャットは、誰かのポルノ視聴履歴や、彼らが購読している相手を超える、親密な監視の一種を可能にします。OnlyFans の詳細はより具体的です。やり取りは数か月にわたって、ますます過激な幻想へとエスカレートすることがあります。最初には考えもしなかったり、人間のパートナーには決して表現しないような幻想のタイプです。
やり取りはプライベートに感じられるかもしれませんが、データは依然として重大なリスクです。アカウントがハッキングされたり、セキュリティ侵害が発生したり、政府関係者がチャットログへのアクセスを要求したりすると、非常に機密性が高く性的な会話が大量に露呈され、ユーザーが想像もしなかった方法で公になってしまう可能性があります。
ユーザーの ChatGPT のやり取りに関する情報は、以前に漏洩したり、意図せず公開されたりしています。OpenAIの声明が当時読まれていました。昨年、複数のChatGPTのやり取りが 意図せず公開されました。共有設定がGoogle検索で誰でも見つけられるようにインデックスされることを理解していなかったユーザーによって公開されました。
“You're sharing your most intimate sexual thoughts because you're lost in the moment,” Carpenter says. “You're vulnerable in that way because you're under the impression that you are in this cool, transformative, almost co-constructive creative space that seems like a great way to practice your sexual fantasies.”
