Meta、第三者ベンダーへの依存を減らしつつ新しいAIコンテンツ規制システムを展開

Metaは木曜日に 発表しました、第三者ベンダーを削減する計画のもと、コンテンツ規制を担当するより高度なAIシステムの導入を開始します。コンテンツ規制に関連する作業には、テロリズム、児童の搾取、薬物、詐欺、詐欺行為に関するコンテンツの検出と削除が含まれます。

同社は、これらのより高度なAIシステムを、一貫して現行のコンテンツ検閲手法を上回る性能を発揮するようになった場合に、同社のアプリ全体に展開すると述べている。同時に、コンテンツ検閲のための第三者ベンダーへの依存を減らす。

「私たちは今後もコンテンツを審査する人員はいますが、これらのシステムは、グラフィックなコンテンツの反復審査や、悪意ある行為者が戦術を常に変える領域（違法薬物の販売や詐欺など）に対応できるようになるでしょう」とMetaはブログ投稿で説明しました。

Metaは、これらのAIシステムがより高い精度でより多くの違反を検出し、詐欺をより効果的に防止し、現実世界の出来事により迅速に対応し、過剰な取り締まりを減らすことができると信じています。

同社は、AIシステムの初期テストは有望であると述べており、それらが審査チームより成人向けの性的勧誘コンテンツを2倍検出できる一方、エラー率を60％超低減できるとしています。また、これらのシステムは著名人などの有名人を含むなりすましアカウントをより多く識別・防止でき、ログイン元の新しい場所、パスワード変更、プロフィールの編集などの信号を検出してアカウント乗っ取りを停止するのにも役立つとしています。

さらに、Metaは、これらのシステムが1日あたり約5,000件の詐欺行為を識別・抑止でき、詐欺師が人々にログイン情報を渡させようとする事例を減らすことができると述べています。

「専門家は、私たちのAIシステムを設計・訓練・監督・評価し、性能を測定して、最も複雑で影響の大きい意思決定を行います」とMetaはブログ投稿に書きました。「例えば、アカウント停止の異議申し立てや法執行機関への報告といった、最もリスクが高く重要な決定を下す際には、人々が引き続き重要な役割を果たします。」

この動きは、Metaが過去1年ほどの間にコンテンツモデレーション規則を緩和してきたことと、ドナルド・トランプ大統領が二度目の就任をしたことに伴うものです。昨年、同社は第三者の事実確認プログラムを終了し、X風のCommunity Notesモデルを採用しました。また、「主流の議論の一部であるトピック」に関する制限を撤廃し、ユーザーには政治的コンテンツに対して「個別化された」アプローチをとるよう促すと述べました。

また、Metaおよび他の大手テック企業は、子どもや若年層に害を及ぼしているとして、ソーシャルメディア大手を責任追及するためのいくつもの訴訟に直面しています。

また、Metaは木曜日に、24時間年中無休のサポートを利用できるMeta AIサポートアシスタントを開始すると発表しました。アシスタントはiOSおよびAndroid向けのFacebookとInstagramアプリに世界的に展開され、デスクトップのFacebookおよびInstagramのヘルプセンター内にも展開されます。