FacebookのAIが嫌なコンテンツの増加に取り組む

Facebookの高度な人工知能(AI)テクノロジーにより、プラットフォームはこれまで以上に悪意のある表現を削除することができました。その憎悪を検出するAIは、2020年の第3四半期に憎悪のコンテンツの95%を捕らえることができました。

ヘイトスピーチとの戦いにおけるAIの役割

Facebookの最新のCommunityStandards Enforcement Reportは、プラットフォームでのヘイトスピーチとの戦いにおいてAIが果たしている主要な役割を明らかにしました。

2020年の第3四半期に、Facebookはヘイトスピーチの約95%を「積極的に検出」することに成功しました。合計で、FacebookはFacebookで2,210万個の不快なコンテンツを削除し、Instagramで650万個を削除しました。

これは、FacebookがFacebookとInstagram全体でヘイトスピーチの24%のみを積極的に検出した2017年の第4四半期と比較して大幅な増加です。

プラットフォームは「ユーザーレポートとテクノロジーの組み合わせ」を利用して不快なコンテンツを削除しますが、この大きな飛躍はFacebookの高度なAIに大きく貢献しています。

そのAIは、報告される前に不快なコンテンツを検出してアクションを実行するのに役立つだけでなく、Facebookはそれを使用してレビューが必要なより複雑なコンテンツを分類します。 FacebookはさらにAIの役割を説明し、次のように述べています。

コンテンツがユーザーによってプロアクティブに検出または報告されるかどうかにかかわらず、私たちはしばしばAIを使用して単純なケースにアクションを起こし、コンテキストを考慮する必要があるより微妙なケースをレビュー担当者に優先させます。

さらに、Facebookは、第3四半期にヘイトスピーチの蔓延が増加していることにも気づきました。 Facebookによると、「Facebookで見られるコンテンツのサンプルを選択し、そのどれだけがヘイトスピーチポリシーに違反しているかをラベル付けすることで、ヘイトスピーチの蔓延を判断します」。

レポートによると、プラットフォームのコンテンツの10,000ビューごとに、10〜11ビューに悪意のある表現が含まれていました。

Facebookはヘイトスピーチをどのように定義していますか?

Facebookがヘイトスピーチとは何かを正確に判断する方法がわからない場合は、プラットフォームがその定義を継続的に調整します。 2020年8月、 Facebookはヘイトスピーチポリシー更新し、反ユダヤ主義の陰謀論とブラックフェイスを追加しました。 Facebookは、「スピーチは時間とともに進化し続けるため、変化する社会的傾向を反映するためにポリシーを改訂し続けます」と述べています。

現在、Facebookは、ヘイトスピーチを「人種、民族、出身国、宗教、性的指向、性別、性別、性同一性、重度の障害や病気など、保護された特性に基づいて人々を直接攻撃するもの」と定義しています。

今後の期待

2020年を通して、Facebookは物議を醸すコンテンツに関して多くの課題に直面してきました。

今年の初めに、プラットフォームはCOVID-19パンデミックに関する誤った情報と戦わなければなりませんでした。その後、米国大統領選挙を取り巻く誤解を招く情報にも対処しなければなりませんでした。これにより、プラットフォームが特定の投稿のラベルを叩いたり、それらを完全に削除したりします。

FacebookのAIは進化し続けているため、今後さらに多くの削除が予想されます。