Facebookのヘイトスピーチ検出AIが成果を上げている

Facebookは、不快なコンテンツを認識して削除する効率を向上させています。プラットフォームのCommunityStandards Enforcement Reportは、2020年の最後の四半期にヘイトスピーチの蔓延が大幅に減少したことを示しています。

Facebookでのヘイトスピーチが減少しました

2020年10月から12月までのFacebookのコミュニティ標準施行レポートで、プラットフォームは、Facebookがヘイトスピーチを処理する方法の大幅な改善を明らかにしました。 Facebookの整合性担当副社長であるGuyRosenは、 Facebookについてのブログに投稿しその成功を強調しました。

Facebookのコンテンツが10,000回表示されるごとに、不快なコンテンツが表示されたのは7〜8回だけでした。 Facebookはまた、第3四半期の250万件の投稿から増加し、630万件のいじめや嫌がらせの投稿に対して行動を起こしました。

プラットフォームはまた、640万個の組織化された憎悪コンテンツをキャッチすることができました。これは、Facebookが前四半期に削除した400万個のコンテンツと比較して大幅に改善されています。

Community Standards Enforcement Reportは、Instagramで同様の改善を示しました。嫌がらせやいじめに関連する500万件の投稿が、ヘイトスピーチを含む660万件のコンテンツと、308,000件の組織化されたヘイトコンテンツとともに、Instagramから削除されました。これらの数値はすべて、第3四半期に記録された統計を上回っています。

Facebookのプロアクティブレート(ユーザーが報告する前にFacebookが削除するコンテンツの量とも呼ばれます)も改善されました。いじめや嫌がらせについては、プラットフォームの積極的な割合がFacebookでは26%から49%に、Instagramでは55%から80%に急上昇しました。

Facebookのヘイトスピーチを検出するAIは、ヘイトスピーチへの反応を高める上で大きな役割を果たしてきました。ローゼン氏は、プラットフォームが「ヘイトスピーチやいじめや嫌がらせなど、ニュアンスとコンテキストが不可欠な場所」でAIを改善し、最終的にFacebookの不快なコンテンツの量を減らすのに役立ったと述べています。

Facebookの最高技術責任者であるMikeSchroepferは、Facebookの絶え間なく改善されているAIの成果を祝うために、 AboutFacebookブログに別の投稿をしまし。 Schroepferは最近の成果にもかかわらず、FacebookのAIが「言語、文化、地域を超えたコンテキストでコンテンツを表示することで」より良くなることを望んでいます。

FacebookのAIはよりスマートになっています

Facebookは、進行中のCOVID-19パンデミックのために、嫌なコンテンツの評価を支援するためにAIシステムにさらに依存し始めました。ローゼン氏は、Facebookチームは「ワクチンが広く利用可能になるまで」パンデミックの影響を受ける可能性が高いと述べた。

Facebookのモデレーターはいつか通常どおり仕事に戻るでしょうが、プラットフォームのAIがどこにも行き渡っていないようです。 FacebookはAIをよりスマートで効率的にしただけであり、Facebookがすぐに進行を停止する予定はないようです。