Cependant, ils ont également des utilisations plus sinistres, notamment la création d’une vidéo montrant le président ukrainien Volodymyr Zelensky se rendant pendant la guerre en Ukraine.
Nina Schick, experte en deepfakes, a décrit cette technologie comme un progrès humain qui “change la donne”.
Dans une interview récente avec le podcast “60 Minutes” de CBS, elle a déclaré : “Le fait que l’IA puisse maintenant être utilisée pour faire des images et des vidéos qui sont fausses et qui ont l’air hyper réalistes, j’ai pensé, eh bien, du point de vue de la désinformation, c’est un changement de jeu.”
La politologue et consultante en technologie a découvert les deepfakes lorsqu’elle faisait des recherches sur l’utilisation de la désinformation par la Russie lors des élections.
Elle a ajouté : “Il s’agit sans aucun doute de l’une des révolutions les plus importantes pour l’avenir de la communication et de la perception humaines.
“Je dirais que c’est analogue à la naissance de l’Internet”.
L’experte, qui a écrit le livre ‘Deepfakes’ en 2020, a expliqué qu’elle examinait les deepfakes “sous l’angle de la désinformation et de la manipulation dans le contexte des élections”.
Bien que les experts craignent que des pays comme la Russie utilisent les deepfakes pour influencer les électeurs, il n’existe jusqu’à présent aucune preuve suggérant que cette technologie a influencé une élection américaine.
Cependant, cela n’a pas empêché les chefs des services de renseignement américains de mettre en garde contre l’utilisation des deepfakes par la Russie.
En mars 2021, le FBI a averti que “les Russes [and] Chinois… utilisent des images de profil synthétiques” pour construire de faux journalistes et autres personnalités publiques.
En juin de cette année, le service du FBI chargé des plaintes pour crimes sur Internet a émis un nouvel avertissement concernant les deepfakes.
Il a signalé une “augmentation du nombre de plaintes faisant état de l’utilisation de deepfakes et du vol d’informations personnelles identifiables”.
L’agence de renseignement américaine a affirmé que les deepfakes étaient utilisés pour “postuler à une variété de postes de travail à distance et de travail à domicile”.
Le FBI a déclaré : “Les deepfakes comprennent une vidéo, une image ou un enregistrement altéré et manipulé de manière convaincante pour présenter faussement quelqu’un comme faisant ou disant quelque chose qui n’a pas été réellement fait ou dit.”
Le FBI a mis en garde contre les acteurs qui utilisent cette technologie pour tenter d’imiter les expressions faciales et les actions spécifiques des candidats à un emploi.
Elle ajoute : “Les plaintes font état de l’utilisation de l’usurpation de la voix, ou potentiellement d’imitations de la voix, pendant les entretiens en ligne des candidats potentiels.
“Dans ces entretiens, les actions et le mouvement des lèvres de la personne que l’on voit interviewée devant une caméra ne correspondent pas complètement à l’audio de la personne qui parle.
“Parfois, des actions telles que la toux, les éternuements ou d’autres actions auditives ne sont pas alignées avec ce qui est présenté visuellement.”
Outre l’impact des deepfakes sur les individus, la technologie pourrait également être utilisée dans une attaque éclair pour nuire aux marchés, selon le sénateur républicain américain Ben Sasse.
Il a déclaré : “Quand on pense au potentiel catastrophique pour la confiance du public et pour les marchés que pourraient avoir les attaques deepfake, sommes-nous organisés de manière à pouvoir réagir assez vite ?”.
Son avertissement, lancé lors d’une audition américaine, a été repris par Dan Coats, l’ancien directeur du renseignement national américain.
Il a déclaré : “Nous devons clairement être plus agiles. Il s’agit d’une menace majeure pour les États-Unis et la communauté du renseignement doit être restructurée pour y faire face.”