Les «travailleurs d’Amazon» de Deepfake sèment la confusion sur Twitter

En fait, il y a déjà eu plusieurs cas très médiatisés dans lesquels de fausses photos ont été utilisées dans des campagnes de désinformation dommageables. En décembre 2019, Facebook a identifié et démantelé un réseau de plus de 900 pages, groupes et comptes, y compris ceux avec des photos de profil profondément truquées, associés au média d’extrême droite The Epoch Times, connu pour ses tactiques de désinformation. En octobre 2020, un faux document de «renseignement» distribué dans les cercles du président Trump qui est devenu la base de nombreuses théories du complot entourant Hunter Biden a également été rédigé par un faux analyste de la sécurité. avec une image de profil profonde.

Toler dit que les visages deepfake sont devenus une tendance dans son travail en tant qu’enquêteur open-source sur les activités en ligne suspectes, en particulier depuis le lancement de ThisPersonDoesNotExist.com, un site Web qui sert un nouveau visage généré par l’IA à chaque actualisation. «Il y a toujours une liste de contrôle mentale que vous parcourez chaque fois que vous trouvez quelque chose», dit-il. « La première question est: » Cette personne est-elle réelle ou non?  » c’était une question que nous n’avions pas vraiment eue il y a cinq ans.

Quelle est l’ampleur de la menace? Pour le moment, Toler dit que l’utilisation de faux visages n’a pas eu un grand impact sur son travail. Il est encore relativement facile pour lui d’identifier quand une image de profil est un deepfake, comme c’est le cas lorsque la photo est une image de stock. Le scénario le plus difficile est celui où l’image d’une personne réelle est extraite d’un compte de réseau social privé qui n’est pas indexé sur les moteurs de recherche d’images.

Une prise de conscience croissante de l’existence des deepfakes a également incité les gens à scruter plus attentivement les médias qu’ils voient, dit Toler, comme en témoigne la rapidité avec laquelle les gens ont compris la falsification des comptes Amazon.

Mais Sam Gregory, le directeur du programme de Witness à but non lucratif pour les droits humains, dit que cela ne devrait pas nous endormir dans un faux sentiment de sécurité. Les Deepfakes «s’améliorent constamment», dit-il. «Je pense que les gens sont un peu trop convaincus qu’il sera toujours possible de les détecter.»

Une hyper-conscience des deepfakes pourrait également amener les gens à cesser de croire aux vrais médias, ce qui pourrait avoir des conséquences tout aussi désastreuses, par exemple en sapant la documentation des violations des droits de l’homme.

Que devrions nous faire? Gregory encourage les utilisateurs de médias sociaux à éviter de se demander si une image est un deepfake ou non. Souvent, ce n’est qu’une «infime partie du puzzle», dit-il. «Le cadeau n’est pas que vous avez en quelque sorte interrogé l’image. C’est que vous regardez le compte et il a été créé il y a une semaine, ou c’est un journaliste qui prétend être journaliste, mais qui n’a jamais rien écrit d’autre que vous pourriez trouver sur une recherche Google. « 

Ces tactiques d’enquête sont beaucoup plus robustes aux avancées de la technologie deepfake. Ce conseil est également vrai pour l’affaire Amazon. C’est en vérifiant les e-mails et les détails des tweets des comptes que Toler a finalement déterminé qu’ils étaient faux. Pas en scrutant les images de profil.