¿Qué es un deepfake?
El término "deepfake" es un proceso tecnológico que crea medios sintéticos muy realistas, generalmente en forma de sonidos, fotografías o videos, utilizando inteligencia artificial (IA), específicamente algoritmos de aprendizaje profundo y redes generativas adversarias (GAN). Los deepfakes pueden producir información completamente nueva y frecuentemente engañosa manipulando o superponiendo contenido visual y de audio preexistente, gracias al entrenamiento de estos algoritmos en grandes conjuntos de datos.
Con el uso de esta tecnología, los rostros, las voces y otras características distintivas se pueden alterar sin problemas para crear representaciones realistas que pueden ser difíciles de discernir del material genuino. Los deepfakes son útiles para el arte, el entretenimiento y la educación, pero también plantean graves riesgos de difundir información falsa, violar la privacidad y tal vez usarse para desacreditar a las personas.
Foto: Vimeo
Con la creciente popularidad de la tecnología deepfake, están surgiendo más plataformas para crear estos videos e imágenes alterados. A continuación se muestra una lista de plataformas populares de deepfake, que demuestran el alcance de esta tecnología, desde el simple intercambio de rostros en GIF hasta la manipulación avanzada de videos, lo que refleja la versatilidad y los usos potenciales de los deepfakes.
FaceApp
Conocida por sus funciones de transformación facial, FaceApp permite a los usuarios aplicar varios filtros para cambiar su apariencia, como el envejecimiento o el intercambio de género, ofreciendo una interfaz fácil de usar.
ELLOS
Una aplicación china de deepfake que llamó la atención por su capacidad para reemplazar caras en videoclips de forma rápida y con gran precisión. ZAO proporciona a los usuarios herramientas sencillas para crear deepfakes personalizados.
Recuperar
Una aplicación móvil diseñada para intercambiar caras en videoclips cortos y GIF. Reface ofrece una amplia gama de contenido, incluidas escenas de películas populares e imágenes de celebridades, lo que facilita la creación de contenido entretenido.
ProfundoFaceLab
DeepFaceLab, una plataforma más avanzada para crear deepfakes, es de código abierto y está diseñada para usuarios experimentados que desean crear proyectos complejos de deepfake. Permite la manipulación detallada de rostros en videos.
Wombo
Wombo, que se especializa en sincronización de labios, permite a los usuarios crear videos donde las caras están animadas para cantar o hablar. Esta plataforma es ampliamente utilizada para crear contenido divertido y entretenido.
Web profunda
Deepfakes Web, un servicio basado en web, está diseñado para facilitar su uso. Los usuarios pueden subir vídeos e imágenes para generar contenido deepfake sin necesidad de conocimientos técnicos avanzados.
Estudio Deepfake
Deepfake Studio, una plataforma integral para crear videos deepfake, ofrece una variedad de herramientas para intercambiar caras y manipular contenido de video. Está dirigido tanto a principiantes como a usuarios más experimentados.
¿Los deepfakes suponen un riesgo?
De hecho, es bastante fácil obtener la tecnología necesaria para generar deepfakes y existe una gran posibilidad de que se abuse de ella para desinformación, desinformación política, imitación de redes sociales y criminalidad. Los actores de amenazas y otros delincuentes pueden utilizar este material falso, entre otras cosas, para inventar historias, amenazar a personas o hacerse pasar por personas conocidas para cometer fraude o dañar la reputación de las personas.
Los casos prácticos de deepfakes maliciosos
Tom Cruise Deepfake
Los vídeos deepfake de Tom Cruise en TikTok se encuentran entre los ejemplos más conocidos y cautivadores de medios producidos artificialmente. Millones de personas vieron estos videos, en los que el rostro de Cruise se coloca con precisión en el físico de otra persona para crear contenido inquietantemente realista.
Anuncio de servicio público de Obama con Jordan Peele
El director y comediante Jordan Peele colaboró con BuzzFeed para producir un vídeo en el que expresó al ex presidente Barack Obama. El deepfake destacó los posibles riesgos en la esfera política al demostrar lo sencillo que era producir material falso utilizando medios artificiales.
Mark Zuckerberg Deepfake como comentario social
El vídeo del director ejecutivo de Facebook, Mark Zuckerberg, fue realizado por el artista Bill Posters para demostrar con qué facilidad se pueden explotar las redes sociales. En el deepfake, Zuckerberg habló de la propiedad de Facebook sobre los datos de los usuarios, llamando la atención sobre la disputa sobre la gestión del material engañoso por parte de la empresa.
Estafas criptográficas
Los deepfakes también se están utilizando ampliamente en el espacio criptográfico. Por ejemplo, el 7 de febrero de 2024, la página de Twitter CertiKSkynetAlert publicó una alerta sobre una estafa con el deepfake de Vitalik Buterin:
#CertiKSkynetAlert Hemos visto un deepfake de @VitalikButerin usado para promocionar un drenador de billeteras. El sitio fraudulento es strnetclaim[.]cc. La imagen fija del video se puede ver a continuación pic.twitter.com/R8AY5CVOea
– Alerta CertiK (@CertiKAlert) 7 de febrero de 2024
¿Existe alguna forma de detener el uso de deepfakes?
Se pueden utilizar tecnologías que puedan identificar deepfakes o permitir la verificación de material real para contrarrestar los deepfakes maliciosos. Los medios falsos pueden reconocerse mediante tecnología de detección sin necesidad de compararlos con el material original e inalterado. El aprendizaje automático es un tipo de IA que estas tecnologías utilizan con frecuencia. Para entrenar los algoritmos se utilizan datos de fuentes de medios acreditadas, reales y fraudulentas. Entre las técnicas se encuentran irregularidades en el rostro o la voz, signos del proceso de creación de deepfake y variaciones de color.
La publicación El lado oscuro de los deepfakes: cómo los actores malintencionados utilizan medios sintéticos para manipular y engañar apareció por primera vez en Metaverse Post.
