GoPlus Security Research : l'effet d'épée à double tranchant de la technologie qui change le visage de l'IA !

Ces dernières années, avec le développement rapide de la technologie de l'intelligence artificielle, une technologie appelée « changement de visage de l'IA » est progressivement devenue publique. Les origines de cette technologie remontent à 2017, lorsque Supasorn Suwajanakorn, chercheur à l'Université de Washington, et d'autres ont lancé un projet appelé « Synthétiser Obama » grâce à une technologie d'apprentissage profond. Dans ce projet, ils ont réussi à modifier un clip vidéo de Barack Obama pour lui faire prononcer des mots à partir d'une nouvelle piste audio qui n'avait rien à voir avec la vidéo. Le cœur de cette technologie réside dans l'application complète de la technologie de réseau neuronal récurrent (RNN) et de synthèse buccale. L'effet est si réaliste que les mouvements audio et buccaux dans la vidéo sont presque impossibles à distinguer.

Avec l’avènement de cette technologie, diverses vidéos et communautés ont vu le jour. Un grand nombre de producteurs vidéo ont commencé à utiliser la technologie de changement de visage de l'IA pour ajouter divers effets spéciaux complexes et une technologie de super-résolution à leurs œuvres, donnant ainsi une apparence réelle à la qualité de leur travail. Ces vidéos sont largement diffusées sur YouTube, Instagram, TikTok et d’autres plateformes. Selon les statistiques, le nombre total de vues de vidéos liées aux Deepfakes a dépassé les 10 milliards de fois. Certains producteurs de vidéos de haute qualité ont même dépassé le million de vues sur une seule vidéo.

Cependant, derrière cet engouement, il faut aussi se méfier des éventuels méfaits causés par la technologie qui change la face de l’IA. La série DeepFaceLab, le logiciel de changement de visage le plus performant de la communauté open source, en est l'un des représentants. Développé entre autres par Ivan Perov et Daiheng Gao, ce logiciel compte plus de 66 000 étoiles GitHub et fait partie du top dix des projets open source d'IA en 2020, aux côtés de géants comme Tensorflow et PyTorch. Il convient de mentionner que Daiheng Gao est également consultant en IA pour GoPlus, se concentrant sur la recherche sur la prévention des abus technologiques.

Même si la technologie révolutionnaire de l’IA nous a apporté des expériences de création et de divertissement sans précédent, nous devons également réaliser que cette technologie peut également être utilisée à des fins malveillantes. Par exemple, en remplaçant des images faciales dans des vidéos, les criminels peuvent créer de la fausse propagande politique, du contenu pornographique ou des attaques malveillantes contre autrui.

Par conséquent, l’équipe GoPlus appelle le grand public à être vigilant lorsqu’il utilise la technologie de changement de visage de l’IA et à éviter de l’utiliser à des fins illégales ou malveillantes.