Twitterユーザーは自動クロップアルゴリズムで人種的バイアスの可能性を発見

Twitterは、その写真プレビュー機能が人種的偏見の兆候を示している理由を特定しようとしています。いくつかのユーザーは、白い顔に比べて黒い顔の方が写真プレビューから切り取られる可能性が高いことを発見しました。

Twitterで画像を表示すると、それは単なるプレビューです。画像全体を表示するには、画像をクリックする必要があります。 Twitterはアルゴリズムを使用して写真をトリミングし、画像プレビューに表示される内容を指示します。

2018年、TwitterはTwitterブログの投稿でスマート自動トリミング機能を発表しました。この機能は「顕著性」を使用して写真の最も目立つ部分に焦点を当て、それに従って写真のプレビューを切り取ります。

Twitterユーザーは、プラットフォームのニューラルネットワークに人種的な偏見がある可能性があることを発見しました。あるユーザーは、元大統領バラク・オバマと一緒に米国上院議員ミッチ・マコーネルの写真を投稿しました。

画像のプレビューでは、オバマ氏の顔が写真の上部に配置されている場合でも、オバマ氏の顔が露骨に切り取られます。同じユーザーが画像の色を反転させようとしたとき、オバマ氏の顔がついに画像プレビューに表示されました。

他のユーザーは自分で実験を始めました。何度も何度も、ユーザーはアルゴリズムが一貫して黒い顔よりも白い顔を好むように見えた。

TwitterコミュニケーションチームのメンバーであるLiz Kelleyは、Twitterユーザーの調査結果に応じてツイートを送信しました。彼女は、Twitterチームがアルゴリズムのバイアスをすでにテストしているが、さらに調査する必要があると述べた。

これらの発見はすべて、 ズームコールの問題に関するユーザーのツイートから生じました。ズームは、彼が仮想背景を使用しようとしたときに、彼の黒い友人の顔を検出することに継続的に失敗しました。ユーザーが問題のスクリーンショットを投稿するためにTwitterを使用すると、Twitterは画像のプレビューから彼の黒い友人を切り取りました。

これらの実験はすべて非公式ですが、実際の問題を際立たせているようです。ツイッターは間違いなく、自動トリミング機能を詳細に調べ、人種的な偏見がないかどうかを確認する必要があります。

とはいえ、Twitterの自動トリミングアルゴリズムだけが、批判されているTwitterの機能ではありません。結局のところ、多くのユーザーは、フィードを自動的に調整するプラットフォームのアルゴリズムのファンではありません。