On a tous déjà croisé une vidéo deepfake sur Facebook, ces vidéos créées à l’aide de l’intelligence artificielle qui peuvent manipuler et superposer des visages et des voix de manière très réaliste.
Dans une vidéo deepfake récente circulant sur Facebook, un journaliste a été faussement utilisé pour promouvoir un supposé médicament révolutionnaire contre les maladies articulaires, en utilisant le nom de la docteur Barbara O’Neill comme référence.
Cette vidéo prétend qu’un remède pourrait guérir l’arthrite, la goutte et l’ostéoporose en seulement trois semaines. Trop beau pour être vrai? C’est que ça l’est.
Le créateur de cette vidéo a probablement utilisé des images et des vidéos d’un journaliste connu et d’un médecin, capturant leurs expressions faciales, et leurs gestes.
Ensuite, à l’aide de l’IA, il a manipulé la vidéo pour faire dire au médecin des choses qu’elle n’a jamais dites, créant ainsi une fausse déclaration sur l’efficacité d’un faux médicament.
Cette utilisation frauduleuse vise à tromper les personnes souffrant de maladies chroniques en leur offrant de faux espoirs et en les incitant à acheter des produits inefficaces, voire dangereux.
Pour une personne souffrant d’arthrite, qui vit quotidiennement avec la douleur et les limitations que cette maladie impose, une telle vidéo peut sembler être une lueur d’espoir.
Prenons l’exemple de la vidéo deepfake sur l’arthrite.
Ces vidéos sont en train de devenir une menace de plus en plus crédible sur les réseaux sociaux comme Facebook. Même si ces vidéos truquées ne sont pas encore parfaites, elles sont suffisamment convaincantes pour tromper même les internautes les plus avertis.
Qu’est-ce qu’un deepfake et où les trouver?
Une vidéo deepfake est une vidéo avec laquelle on a utilisé des techniques d’intelligence artificielle pour remplacer le visage et/ou la voix d’une personne par ceux d’une autre.
Ça peut être utilisé pour rire, comme placer le visage d’une célébrité sur une vidéo drôle. Cependant, ces mêmes technologies peuvent aussi être utilisées pour diffuser des informations fausses ou trompeuses.
Les deepfakes peuvent apparaître sur plusieurs plateformes, mais certaines sont plus populaires que d’autres.
- YouTube
- X (anciennement Twitter)
Pourquoi les vidéos deepfakes sont-elles si crédibles?
La technologie utilisée est de plus en plus sophistiquée.
Les algorithmes de l’intelligence artificielle peuvent analyser des milliers d’images et de vidéos d’une personne, capturant chaque détail de son apparence, de ses expressions faciales et de sa voix. Ils peuvent alors générer une vidéo ou une image qui est presque la réalité.
Il y a quelques mois encore, les deepfakes étaient souvent faciles à identifier. Mais aujourd’hui, grâce aux avancées rapides de la technologie et de l’intelligence artificielle, ces vidéos sont devenues beaucoup plus réalistes.
Pourquoi les vidéos deepfakes sont vues davantage par des personnes vulnérables?
Prenons l’exemple de Facebook. L’algorithme de Facebook est conçu pour personnaliser le fil d’actualité de chaque utilisateur, en affichant du contenu qui, selon lui, sera intéressant et engageant pour cette personne en particulier.
L’algorithme de Facebook joue un rôle important dans les deepfakes. Par exemple, si on interagit fréquemment avec des publications liées à la santé ou si elle a récemment recherché des informations sur l’arthrite, l’algorithme le remarquera.
Ensuite, l’algorithme utilise ces informations sur les intérêts pour cibler du contenu spécifique. Ici, il pourrait trouver des personnes intéressées par des solutions pour soulager l’arthrite.
La vidéo deepfake sur le médicament révolutionnaire contre l’arthrite pourrait être ciblée spécifiquement vers ces personnes.
En plus, si une personne a déjà regardé des vidéos ou interagi avec des publications liées à des traitements alternatifs, l’algorithme va considérer que ce contenu est engageant pour elle.
On est ami avec d’autres personnes qui ont interagi avec la vidéo deepfake ou qui ont manifesté un intérêt pour des sujets similaires, l’algorithme peut suggérer la vidéo en question, supposant qu’elle pourrait être pertinente pour nous aussi.
Si on a fait des recherches sur des traitements contre l’arthrite, l’algorithme peut utiliser cette information pour nous suggérer la vidéo deepfake.
Quels sont les risques des deepfakes pour les personnes vulnérables?
On pourrait penser qu’il est évident que ces vidéos sont fausses. Cependant, pour ceux qui sont désespérés et cherchent un soulagement, ces deepfakes peuvent sembler crédibles.
Une personne atteinte d’arthrite pourrait voir cette vidéo comme un dernier espoir et décider d’acheter ce faux médicament en ligne, gaspillant de l’argent et, pire encore, mettant sa santé en jeu.
Pourquoi les vidéos deepfakes sont dangeureuses?
Les deepfakes peuvent causer des dommages réels:
- Diffuser de fausses informations: En propageant des informations incorrectes, elles peuvent semer la confusion et la panique.
- Tromper les gens: Les vidéos truquées peuvent être utilisées pour arnaquer des gens vulnérables en leur vendant de faux produits ou services.
- Nuire à la réputation: Elles peuvent être utilisées pour diffamer des individus ou des entreprises, provoquant des dommages à leur réputation.
Comment détecter et reconnaître les vidéos deepfakes?
La détection des deepfakes n’est pas si simple que l’on pense. Les manipulations sont extrêmement sophistiquées. Et la technologie évolue à une vitesse fulgurante.
Heureusement, des outils technologiques sont en cours de développement pour détecter ces manipulations.
Qu’est-ce qu’on peut faire pour se protéger des deepfakes?
- Premièrement, il faut toujours être vigilant quand on consulte du contenu sur le web. Si une vidéo ou une image semble trop belle pour être vraie, elle l’est probablement.
- Deuxièmement, toujours vérifier les sources. Si une information provient d’une source inconnue ou peu fiable, on reste prudent et on se méfie.
- Troisièmement, si les grands médias reconnus n’en parlent pas, comme La Presse ou Radio-Canada, il y a de fortes chances que ce soit faux.
Il n’y a pas de remède miracle. Si c’est trop beau pour être vrai, ça l’est.
La clé est de toujours vérifier les sources et de ne pas se laisser emporter par des vidéos qui miroitent de belles promesses.
D’autres exemples de publicités deepfakes
Une publicité frauduleuse qui promeut une application de casino comme si elle nous permettait d’assurément gagner de l’argent circule sur Facebook. La différence avec d’autres tentatives de fraude de la sorte, c’est qu’elle utilise l’image et la voix d’Anne-Marie Dusseault, journaliste et animatrice sur les ondes de Radio-Canada et d’ICI RDI. On vous explique comment reconnaître la supercherie.
Une publicité frauduleuse qui promet des pilules amaigrissantes miracles circule sur Facebook. Contrairement à d’autres tentatives de fraude de la sorte, celle-ci utilise l’histoire de perte de poids, l’image et la voix de la chanteuse Nathalie Simard. On vous explique comment reconnaître ces arnaques dangereuses.
