L’IA a progressé rapidement au cours des dernières décennies. Elle a de nombreuses applications dans divers domaines pour des fonctions variées. De nombreux secteurs bénéficient d’une qualité et d’une efficacité accrues. Cependant, tous les produits d’IA ne sont pas bénéfiques pour la société. Il arrive que des technologies soient développées et soient ensuite utilisées de manière abusive par des criminels. Deepfake est un exemple d’une telle technologie.

Des programmes basés sur l’IA sont formés pour remplacer le visage d’une personne dans une photo ou une vidéo par celui d’une autre personne. Les personnes célèbres, les célébrités et les politiciens sont souvent la cible de telles actions. Cet article décrit le fonctionnement de cette technologie et les approches disponibles pour l’identifier.

Qu’est-ce que la technologie Deepfake ?

La technologie Deepfake, tire son nom de l’apprentissage profond (deep learning), un type d’IA. Les algorithmes d’apprentissage profond, qui apprennent à résoudre des problèmes liés à des ensembles de données volumineux, sont utilisés dans l’IA de type « deepfake » pour échanger des visages dans des vidéos, des photos et d’autres contenus numériques afin de faire passer le faux pour le vrai.

Le contenu deepfake est créé à l’aide de deux algorithmes concurrents. L’un est connu sous le nom de générateur et l’autre de discriminateur. Le générateur génère le faux contenu numérique et demande au discriminateur de déterminer s’il est réel ou fabriqué. Chaque fois que le discriminateur détermine correctement si le contenu est réel ou faux, il envoie cette connaissance au générateur afin d’améliorer le prochain deepfake.

Lorsque ces deux techniques sont combinées, elles génèrent un réseau adversarial génératif (GAN). Celui-ci s’entraîne à reconnaître des modèles à l’aide d’une série d’algorithmes, ce qui l’aide à apprendre les qualités authentiques requises pour créer de fausses images.

Deepfake : Comment ça marche ?

Le principe de base la technologie deepfakes est la reconnaissance faciale ; les utilisateurs des réseaux sociaux comme Snapchat et Instagram connaissent bien la fonctionnalité de changement de visage ou de filtres, qui modifient ou augmentent les traits de votre visage. Les Deepfakes sont similaires mais encore plus convaincants. Un « generative adversarial network », ou GAN, est une approche d’apprentissage automatique qui peut être utilisée pour créer de fausses vidéos.

Un GAN, par exemple, peut examiner des milliers de photos d’une célébrité et générer une nouvelle image qui se rapproche de ces photos sans en être la réplique exacte. Le GAN est une technologie polyvalente qui peut être utilisée pour générer un nouveau son à partir d’un son existant ou un nouveau texte à partir d’un texte existant. Les Deep Fakes sont créés à l’aide d’une technologie configurée pour cartographier les visages sur la base de points de repère. Il s’agit de caractéristiques telles que les coins des yeux et de la bouche, le nez et le contour de la mâchoire.

Pour mettre en évidence ce qu’on peut faire par la technologie Deepfake, des chercheurs de l’université de Washington ont créé une reconstitution photoréaliste de l’ancien président américain Barack Obama. Le mouvement de la bouche de M. Obama lorsqu’il parle a été soigneusement modélisé grâce à l’intelligence artificielle. Leur approche leur permet de mettre n’importe quel mot dans la bouche de leur mannequin Barack Obama.

Quel est le danger des deepfakes ?

Le deepfake est considéré comme l’une des applications les plus dangereuses de l’IA. La majorité de ses applications dans le monde réel impliquent des motifs diffamatoires ou frauduleux. L’un des premiers incidents de fraude par deepfake s’est produit au Royaume-Uni. Des escrocs ont appelé le PDG d’une société énergétique basée au Royaume-Uni et, se faisant passer pour son employeur allemand, lui ont demandé de transférer 220 000 euros sur le compte d’un tiers.

Le résultat final d’un deepfake peut être impossible à distinguer de la réalité. Il peut nuire à la réputation d’une personne ou l’amener à dire ou faire quelque chose d’inapproprié. C’est l’outil idéal dans les mains des escrocs. Il faut du temps pour développer un système qui détecte les deepfake.

Quel est l’effet des deepfakes sur notre société ?

Les deepfakes entre de mauvaises mains peuvent provoquer le chaos et l’incertitude. Une vidéo montrant deux hommes sur une moto en train de kidnapper un enfant en bas âge en Inde a été publiée sur WhatsApp en 2018. Par suite de la publication de la vidéo, la peur s’est généralisée, entraînant la mort de plusieurs personnes.

Les dirigeants, les célébrités et les influenceurs exercent un pouvoir énorme dans notre culture. Les fausses informations, ainsi que leur implication, ont le potentiel d’affecter le moral des masses et de stimuler l’action. Et de tels événements se sont déjà produits. Des vidéos pornographiques Deepfake mettant en scène des célébrités sont apparues à plusieurs reprises sur Internet.

Plusieurs présidents américains ont exprimé leur inquiétude pour le sujet. Les fausses nouvelles impliquant des dirigeants politiques peuvent ternir le pouvoir en place dans le pays et amener les gens à perdre confiance en eux.

Comment détecter un deepfake ?

Les technologies de détection des deepfakes reposent elles aussi sur l’intelligence artificielle, et utilisent des algorithmes similaires à ceux utilisés pour fabriquer des deepfakes. Elles détectent des indications qui ne seraient pas visibles dans des images ou des films du monde réel.

Au départ, un clignotement étrange des yeux ou leur absence totale indiquait un deepfake. Cependant, les systèmes ont évolué pour imiter le clignement des yeux au fil du temps. Voici quelques signes répandus pour détecter les deepfakes :

Les expressions faciales bizarres

Si le visage d’une personne pointe dans un sens et son nez dans l’autre.

Mouvements corporels anormaux

Lorsqu’une personne semble déformée ou que ses mouvements sont saccadés et disjoints.

Une couleur de teint qui n’est pas naturelle

La décoloration, les ombres mal placées et un teint de peau inhabituel sont autant d’indications que vous êtes en train de voir un deepfake.

Mauvais alignement

Lorsque les images ne sont pas à leur place ou sont floues.

Les images semblent étranges lorsqu’elles sont agrandies ou ralenties.

Vous pouvez prêter plus d’attention à des éléments tels qu’un mauvais synchronisme des lèvres si vous regardez une vidéo sur un écran plus grand et si vous faites un zoom avant.

Un son incohérent

Les Deepfakes consacrent plus de temps aux images vidéo qu’à la correction audio. Recherchez une prononciation inhabituelle des mots, un bruit de fond numérique ou même l’absence de bruit.

Le clignement des yeux n’est pas évident

Sans sourciller, vous pouvez voir le visage d’une personne et discerner si elle dit quelque chose. C’est un indicateur très solide d’un deepfake.