オンライン上の子どもの安全に関する懸念が高まる中、OpenAIは、AIブームを背景に米国の子ども保護を強化するための青写真を公開しました。 今週火曜日に発表されたChild Safety Blueprint（子どもの安全に関する青写真）は、AIを悪用した児童搾取の事例において、より迅速な検知、より良い報告、そして効率的な捜査につなげることを目的としています。
Child Safety Blueprintの全体的な目標は、AIの進歩に関連して増加している、憂慮すべき子どもの性的搾取の実態に対処することです。Internet Watch Foundation（IWF）によると、2025年上半期にAIが生成した子どもの性的虐待コンテンツに関する8,000件超の報告が検知されたとのことです。これは前年から14%の増加です。これには、犯罪者がAIツールを使って子どもの偽の露骨な画像を作り、金銭目的のセクストーション（性的脅迫）に悪用することや、信ぴょう性の高いメッセージを生成して、なりすまし（グルーミング）に用いることも含まれます。
OpenAIの青写真は、政策担当者、教育関係者、そして子どもの安全を訴える活動家からの監視の目が強まっている状況の中でも発表されました。とりわけ、憂慮すべき出来事として、若い人がAIチャットボットとやり取りしたとされる後に、自殺によって死亡したケースが報告されています。
昨年11月、Social Media Victims Law CenterとTech Justice Law Projectは、カリフォルニア州の裁判所に7件の訴訟を提起し、OpenAIが準備が整う前にGPT-4oを公開したと主張しました。訴状では、この製品が持つ心理的に人を操る性質が、自殺や幇助による不当な死に寄与したとしています。また、チャットボットとの長期間のやり取りの後に自殺で亡くなった4人と、別の3人が重篤で生命を脅かす妄想を経験したとしています。
この青写真は、不明のまま行方不明となった子どもと搾取された子どもに関する全米センター（NCMEC）およびAttorney General Allianceとの共同で作成され、さらにノースカロライナ州の州司法長官ジェフ・ジャクソン、ユタ州の州司法長官デレク・ブラウンからのフィードバックも反映されています。
同社によると、この青写真は3つの側面に焦点を当てています。すなわち、AIが生成した虐待素材を対象に含めるための法改正の更新、法執行機関向けの報告メカニズムの改善、そして予防的なセーフガード（防止措置）をAIシステムに直接統合することです。これによって、OpenAIは潜在的な脅威をより早い段階で検知するだけでなく、実行可能な情報が捜査官に迅速に届くことをも目指します。
OpenAIの新しい子どもの安全に関する青写真は、これまでの取り組みに基づくものです。これには、18歳未満のユーザーとのやり取りに関する更新ガイドラインが含まれており、不適切なコンテンツの生成や、自傷を促すことを禁じるほか、保護者に対して危険な行動を隠すのに役立つ助言をしないことが定められています。同社は最近、インドのティーン向けの安全に関する青写真も公表しました。
