TheTinderはユーザーに有害なメッセージを二番目に推測することを望んでいます

TheTinderはその新しい「AreYouSure?」を望んでいます。 (AYS?)警告は、ユーザーが不快感を与える可能性のあるメッセージを送信することを思いとどまらせます。 TinderのAIがメッセージ内の有害な言語を検出すると、ユーザーに本当に送信を押したいかどうかを尋ねます。

送信してもよろしいですか?

TheTinderは新しいAYSを発表しましたか? TheTinderニュースルームの投稿での通知。テスト中、この機能は不快なメッセージを10%以上削減するのに役立ちました。

Tinderの憎悪検出AIは、プラットフォームで最も一般的に報告されている言語を使用して構築されました。ユーザーが潜在的に有害なメッセージを送信しようとすると、通知は次のように尋ねます。「送信してもよろしいですか?よく考えてください。一致すると、この言語が無礼になる可能性があります。」

初期の使用の過程で、Tinderは実際にAYSを見たユーザーが?不適切なメッセージについて通知が報告される可能性は低くなりました。マッチグループ(TheTinderの親会社)の安全と社会的擁護の責任者であるTracey Breedenは、AYSの有望な未来についてコメントしましたか?通知、次のように述べています。

言葉は行動と同じくらい強力です、そして今日、私たちは嫌がらせがTheTinderに場所がないというさらに強い立場を取っています。これらの機能の初期の結果は、正しい方法で行われた介入が、行動を変え、誰もが自分らしくいることができると感じるコミュニティを構築する上で本当に意味があることを示しています。

AYS?メッセージは、Tinderがデートプラットフォームでの嫌がらせやいじめを防ぐために使用しているさらに別のツールです。 Tinderはすでにメッセージを表示しています:「これはあなたを悩ませますか?」潜在的に有害なメッセージを受信するユーザーに。この通知も成功を収めています。不快なメッセージの報告は、公開以来46%増加しています。

TheTinderのAYSなら?と「これはあなたを悩ませますか?」警告はおなじみのように聞こえますが、それは他のソーシャルプラットフォームがすでに同様の機能の実装を開始しているためです。ごく最近、Twitterは失礼なツイート再考するように促す機能を公開しました。 YouTubeは独自のバージョンの機能もリリースしており、敬意を持ってコメントするように促しています。

ユーザーに素敵であることを求めることは本当に機能しますか?

ソーシャルプラットフォームは、不快感を与える可能性のある言葉についてユーザーに警告したときに、良い結果が得られたようです。ただし、この通知は、ユーザーが自分の欲しいものを言うのを実際に妨げるものではありません。それは単に良い提案にすぎません。

これは、最大のインターネットいじめが失礼なコメントを送信することを思いとどまらせることはないかもしれませんが、それでも影響を与える可能性があります。少数の失礼なコメントがユーザーの受信トレイに届かないようにするだけでも、何もないよりは間違いなく優れています。