<img height="1" width="1" style="display:none;" alt="" src="https://px.ads.linkedin.com/collect/?pid=1271508&amp;fmt=gif">

Facebook à l’assaut des deepfakes

deepfake-detection-challenge deepfake-detection-challenge

Facebook a annoncé le lancement du Deepfake Detection Challenge, un concours ayant pour but d’« encourager l’industrie » à créer de nouveaux outils de détection des vidéos truquées.

Les élections américaines approchent à grands pas et Facebook se mobilise en s’engageant contre les vidéos manipulées, communément appelées « deepfakes » qui circulent sur son réseau.

Ces contenus, dont l’unique vocation est de faire dire n’importe quoi à n’importe qui grâce à l’intelligence artificielle seront désormais, une fois identifiées, supprimées du réseau social. « Si ces vidéos sont encore rares sur Internet, elles représentent un défi significatif pour notre industrie et pour la société au fur et à mesure que leur utilisation se développe », écrit Monika Bickert, vice-présidente de la gestion des politiques mondiales chez Facebook, dans une note de blog publiée lundi 2 janvier.

Sont visées, toutes les vidéos altérant la réalité ainsi que celles dont la vocation première est de manipuler les utilisateurs de la plateforme. Concrètement, cela implique que pour se voir retirée de Facebook, une vidéo considérée comme « deepfake » remplira deux critères :

  • Elle peut induire en erreur un internaute qui peut penser que la vidéo est réelle
  • Elle est un produit de l’intelligence artificielle ou du machine learning

Pour reconnaître ces vidéos, le réseau social s’appuiera sur ses propres outils informatiques et ses cinquante partenaires, dont l’agence Reuters, présentes dans le monde entier et qui « fact-checkent » les publications dans 40 langues différentes. Facebook a précisé dans la note de blog publié en début d’année que cette nouvelle politique ne s’adresse toutefois pas aux contenus parodiques ni aux vidéos satiriques.

En complément, si une vidéo est signalée comme fausse (sans forcément réunir les 2 critères ci-dessus), elle portera un sceau spécifique pour qu’aucun internaute ne puisse être dupé. Monica Bickert confirme : « Si nous supprimions simplement toutes les vidéos manipulées signalées comme fausses par (nos équipes de modération), les vidéos seraient toujours disponibles ailleurs sur Internet ou sur l'écosystème des réseaux sociaux. En les qualifiant de faux, nous fournissons aux gens des informations et un contexte importants ».

La campagne de Facebook contre les deepfakes ne date pas de 2020. En septembre dernier, le réseau social lançait un challenge de détection baptisé « Deepfake Detection Challenge » en collaboration avec Microsoft, Amazon et les meilleures universités américaines pour identifier le meilleur algorithme capable de repérer un deepfake.

 

Le programme offrira 10 millions de dollars à l’équipe qui saura générer un outil capable de détecter le moindre pixel issu de l’intelligence artificielle. De quoi motiver les recherches sur le sujet et accompagner le réseau social dans l’identification de contenus problématiques.

La Rédaction

Voir aussi