AI企業は若年ユーザーを保護するための安全対策を繰り返し約束してきましたが、新たな調査によるとその安全対策は依然として著しく不十分であることが示唆されています。人気のチャットボットは、ティーンエイジャーが暴力行為について議論するシナリオで警告サインを見逃し、介入するどころか時には励ますことさえありました。
この調査結果は、CNNと非営利団体Center for Countering Digital Hate（CCDH）による共同調査から得られたものです。調査では、ティーンエイジャーがよく使用する10の人気チャットボット、ChatGPT、Google Gemini、Claude、Microsoft Copilot、Meta AI、DeepSeek、Perplexity、Snapchat My AI、Character.AI、Replikaをテストしました。ただ一つの例外を除き…
