メタ、AIで身長や骨格を分析し「13歳未満」の可能性を特定へ

Metaは火曜日、13歳未満かどうかを見極めるための視覚的手がかりを見つける目的で、AIを使って写真や動画をスキャンし始めると発表しました。その結果として、FacebookとInstagramから削除すべきだとしています。同社はこれを発表しました。こうした視覚的手がかりには、人物の身長や骨格などが含まれるとしています。

「ここははっきりさせたいのですが、これは顔認識ではありません」とMetaはブログ投稿で説明しました。「私たちのAIは、一般的なテーマや視覚的手がかり――たとえば身長や骨格――を見て、相手の“おおよその年齢”を推定します。画像内の特定の人物を特定するものではありません。これらの視覚的な洞察を、テキストややり取りの分析と組み合わせることで、13歳未満のアカウントとして特定し削除できる件数を大幅に増やせます。

この視覚分析システムは現在、一部の国で稼働していますが、Metaはより広い展開に向けて取り組んでいるとしています。

Metaによると、このシステムは、13歳未満の子どもを同社のプラットフォームから遠ざける取り組みの一部です。この取り組みには、誕生日のお祝いのようなものや学校の成績に関する言及などの文脈上の手がかりを得るために、プロフィール全体をAIで分析することも含まれます。同社は、投稿、コメント、プロフィール文、キャプションなど、さまざまな形式にまたがってこうしたサインを探します。Metaは今後、この技術を、Instagram LiveやFacebookグループを含むアプリのより多くの領域に広げる計画です。

Metaがその人物が年齢要件を満たさない可能性があると判断した場合、そのアカウントは無効化されます。そして、アカウントが削除されないようにするため、ユーザーは同社の年齢確認プロセスを通じて自分の年齢を証明する必要があります。

今回の発表は、新たにニューメキシコ州の陪審がMetaに対し、プラットフォームの安全性について消費者を誤認させ、子どもたちを危険にさらしたとして民事罰金3億7500万ドルの支払いを命じた ことから数週間後にあたります。同社はまた、自社のプラットフォームに根本的な変更を実施するよう命じられました。その後Metaは、同州でソーシャルメディアのサービスを停止すると脅していました。

この件は、子どもの安全をめぐってMetaやその他の大手IT企業が直面している多数の訴訟のうちの1つ だという点も指摘しておく価値があります。 

さらにMetaは火曜日、Instagram上で「Teen Accounts（ティーン向けアカウント）」に自動的にティーンユーザーをより厳格な設定へ振り分ける技術を、EUの27か国とブラジルに拡大すると発表したとしています。この仕組みは「Teen Accounts」を対象にしています。こうしたティーン向けアカウントでは、フォローしている相手またはすでに連携がある相手からのDMのみを受け取れるようにする、危険なコメントを非表示にする、有効なデフォルトとしてアカウントを非公開に設定するなど、追加の安全策により、より厳格なアカウント体験が提供されます。

加えてMetaは、この技術をFacebookにも米国で初めて導入し、その後6月に英国とEUにも展開すると述べました。