ディープフェイクは顔認識をだますことができますか?新しい研究はそう言っています!

ディープフェイクとAIで生成されたビデオはここにあります。しかし、過去数年間で、それらは質と量が増加し、多くの人々が国家安全保障と個人のプライバシーについて心配するようになりました。

それでも、匿名のオンラインユーザーが偽のビデオを現実的にしようとしても、高度な顔認識ソフトウェアを乗り越えることはできませんでした。今まで。

だまされた顔認識API

韓国の水原にある成均館大学の研究者は、現在のディープフェイク技術の品質をテストしました。彼らは、オープンソースで一般的に使用されているディープフェイクビデオ生成ソフトウェアを使用してAmazonとMicrosoftの両方のAPIをテストし、それらのパフォーマンスを確認しました。

研究者たちはハリウッドの有名人の顔を使った。堅実なディープフェイクを作成するために、ソフトウェアは同じ人物のさまざまな角度から多くの高品質の画像を必要とします。これは、一般の人々よりも有名人の取得がはるかに簡単です。

研究者たちはまた、MicrosoftとAmazonのAPIを研究のベンチマークとして使用することを決定しました。これは、両社が有名人の顔認識サービスを提供しているためです。彼らは公開されているデータセットを使用し、8,000を超えるディープフェイクを作成しました。それぞれのディープフェイクビデオから、複数のフェイスショットを抽出し、それをAPIに送信しました。

MicrosoftのAzureCognitive Servicesを使用すると、研究者はディープフェイクを使用して78%の時間でシステムをだますことができました。アマゾンの結果はわずかに良く、提出された顔の68パーセントが本物として識別されました。

ディープフェイク検出器はどうですか?

ディープフェイク検出器は、ディープフェイクとほぼ同じように機能します。検出器は、ディープフェイクビデオの検出方法に関する機械学習モデルを使用してトレーニングされたソフトウェアです。

しかし、検出器をだますために超現実的なビデオを作成することに焦点を合わせる代わりに、ディープフェイクはAIシステムを混乱させるためにすべてのフレームに敵対的な例を含めることができるようになりました。実際、このタイプのディープフェイク攻撃の成功率は78〜99 です。

だんだん悪くなってる

ディープフェイクは機械学習アプリケーションです。遠く離れた場所でも説得力のあるものを作成するには、同じ人物の顔をさまざまな角度から数百枚の画像で表示し、さまざまな感情を表現する必要があります。

大量のデータが必要なため、有名人や政治家のように、オンラインでの存在感が大きい人だけが危険にさらされていると考えられます。しかし、それはもはや事実ではありません。

Deeptraceによると、オンラインのディープフェイクの数は、2019年10月から2020年6月までの1年以内に330%増加しました。言うまでもなく、ディープフェイクメーカーが使用するソフトウェアとアルゴリズムはより強力になり、より簡単に利用でき、アクセスできるようになっています。

ディープフェイクのリスクがあるのは誰ですか?

ディープフェイクが最初に主流になったとき、主な懸念はプライバシーと国家安全保障でした。人々は、政治家や公務員のビデオ映像がもはや信頼できないことを恐れていました。

しかし、セキュリティリスクのディープフェイクポーズを無視するのは無責任ですが、複数の調査によると、ディープフェイクメーカーはまだ政治を混乱させることにそれほど関心がないことがわかりました。オンラインのディープフェイク動画の大部分は、有名人のインタビューの面白い動画と、映画やポルノ素材の2つのカテゴリに分類できます。

最近の調査では、有名人の顔を使用してディープフェイクが高品質でAPIをだましていることを確認しましたが、それは、少ないデータでディープフェイクを作成できないという意味ではありません。確かに、彼らは高度な顔認識システムをだますチャンスに耐えられないかもしれませんが、他の人をだますのに十分説得力があるかもしれません。

今日では、社会的存在感のある人なら誰でも、説得力のあるディープフェイクを作ることができます。必要なのは、あなたの写真と、おそらくあなたが登場するビデオだけです。結果として得られるディープフェイクは品質が低い可能性がありますが、それでも実行可能であり、損害を与える可能性があります。

未来はまだ不明

ディープフェイクはすぐになくなることはないため、ディープフェイクの状態に関しては多くの矛盾した予測があります。

オンラインで出くわした映像を信用できない終末論的なサイバーの未来を期待する人もいます。ディープフェイクをアニメーションと比較し、コンテンツ制作に未来があるかもしれないと言って、より楽観的な人もいます。