Las estafas deepfake son una tendencia preocupante sobre la que ha advertido la Comisión de Valores y Futuros de Hong Kong. Estos fraudes están afectando al negocio de las criptomonedas. Los estafadores están empleando estrategias sofisticadas, como películas ultrafalsas que muestran a personas conocidas como Elon Musk, para engañar a las personas mediante el uso de tecnología de inteligencia artificial de vanguardia. Exploraremos el caso reciente de una organización con sede en Hong Kong que utiliza tecnología deepfake para publicitar esquemas criptográficos falsos, iluminando las ramificaciones más amplias de tácticas tan deshonestas.
El auge de las estafas deepfake en 2024
Los estafadores siempre están cambiando sus estrategias para aprovechar las debilidades de los ecosistemas digitales, ya que vivimos en una época de rápida innovación técnica. La tecnología deepfake se ha convertido en un arma poderosa en la caja de herramientas de los piratas informáticos. Utiliza algoritmos de inteligencia artificial para imitar las voces y expresiones faciales de las personas objetivo. Con el uso de estas simulaciones realistas, los artistas pueden producir grabaciones de audio o vídeo falsas y hacerse pasar por personas conocidas para llevar a cabo acciones fraudulentas.
Se ha convertido en un tema importante en 2024, con más de 40 elecciones en todo el mundo. Los avances tecnológicos, en particular los medios sintéticos, como los deepfakes, han dificultado determinar si los medios son fabricados por una computadora o se basan en hechos reales. El impacto de los deepfakes en las elecciones aún no está claro, pero los ejemplos sugieren que pueden usarse de diversas maneras.
Los académicos han publicado muchos artículos y libros sobre este tema. Los periodistas han recibido capacitación con fines de confirmación y verificación, y los gobiernos han participado en “grandes comités” y centros de superioridad. El desarrollo de estrategias de resiliencia ha convertido a las bibliotecas en su punto focal. Han surgido algunas organizaciones nuevas para ofrecer recursos, capacitación y análisis. Este trabajo ha resultado en una comprensión más sofisticada de la desinformación como fenómeno social, psicológico, político y técnico.
Los deepfakes políticos pueden adoptar muchas formas, como intimidar y maltratar a mujeres y niñas o difundir información falsa sobre quienes se postulan para cargos públicos. La complejidad del audio deepfake hace que sea difícil identificarlo, y es fundamental recordar que los deepfake todavía están en su infancia y carecen de alta calidad.
Cero dólares es la cantidad que debería haber recibido este estafador. pic.twitter.com/wvM3HJYql6
– Dra. Anastasia Maria Loupis (@DrLoupis) 13 de febrero de 2024
El manejo de posibles incidentes por parte de las comisiones electorales, los candidatos, los medios y los votantes sigue sin estar claro. La integridad de las elecciones democráticas no puede depender de la incompetencia de los farsantes. Otra táctica utilizada para socavar la democracia es la difusión de rumores y conspiraciones sobre la validez del proceso electoral.
Debe tenerse en cuenta la resiliencia de los procesos democráticos para combatir el problema de la desinformación antes de las próximas elecciones. ¿Sirve al interés público un sistema de medios imparciales que puedan proporcionar investigaciones superiores? ¿Existen tribunales independientes que puedan tomar decisiones cuando sea necesario? ¿Y los políticos y los partidos políticos dan suficiente prioridad a los principios democráticos sobre el interés propio? Las respuestas a estas interrogantes podrían salir a la luz durante este año electoral.
La estafa de Hong Kong al descubierto
Recientemente, la Comisión de Valores y Futuros de Hong Kong hizo pública información sobre un caso alarmante que involucraba a un grupo que usaba el nombre AI Quantum o Quantum AI. Esta organización criminal afirmaba ofrecer servicios de comercio de bitcoins impulsados por inteligencia artificial de última generación. Sin embargo, la evidencia que encontraron los investigadores apunta a que la organización actúa como fachada para cometer fraude con activos virtuales.
El intercambio de cifrado con sede en Hong Kong utiliza Deepfake de Elon Musk para promover servicios pic.twitter.com/GG61JbT3R9
– CryptoAlerts365 (@CryptoAlerts365) 13 de mayo de 2024
Para reforzar la credibilidad de su plan, los perpetradores recurrieron a aprovechar videos deepfake de Elon Musk, retratándolo falsamente como el cerebro detrás de su tecnología. Al difundir estos clips inventados y crear un sitio web de “noticias” falsificadas, los estafadores intentaron engañar a las víctimas potenciales y legitimar sus actividades ilícitas. Esta manipulación de la confianza pone de relieve la naturaleza insidiosa de las estafas deepfake y los desafíos que plantean a las personas desprevenidas que navegan por el panorama digital.
Una mujer coreana se enamoró de un vídeo falso de Elon Musk y le envió al estafador más de 50.000 dólares pic.twitter.com/6x8AIJvmrb
- Pubidad (@pubity) 5 de mayo de 2024
Acción rápida y preocupaciones constantes
La rápida intervención de las autoridades de Hong Kong provocó el cierre de todos los sitios web y páginas de redes sociales del grupo. Sin embargo, aún se desconoce el alcance total del daño causado por la estafa, lo que subraya la necesidad urgente de una mayor vigilancia y medidas sólidas de ciberseguridad. Este incidente sirve como un claro recordatorio de la amenaza generalizada que representa la tecnología deepfake y el imperativo de protegerse contra su explotación maliciosa.
Este caso no es un incidente aislado; Es parte de una tendencia más amplia en la que los estafadores explotan la tecnología deepfake para utilizar esquemas fraudulentos en todo el mundo. Desde estafas románticas perpetradas por grupos notorios como “The Yahoo Boys” en Nigeria hasta elaboradas tácticas de suplantación de identidad dirigidas a figuras de alto perfil como Elon Musk y líderes políticos como el primer ministro de Singapur, Lee Hsien Loong, la proliferación de estafas deepfake subraya las implicaciones de largo alcance. de manipulación tecnológica.
En ausencia del Congreso, los estados y los reguladores internacionales están tomando medidas para controlar la proliferación de contenido electoral generado por IA. Unos diez estados han adoptado leyes para penalizar a quienes utilizan la IA para engañar a los votantes, y el gobernador de Wisconsin promulgó un proyecto de ley bipartidista que multaría a las personas que no revelen la IA en anuncios políticos. La ley de Michigan castiga a cualquiera que, a sabiendas, haga circular un deepfake generado por IA dentro de los 90 días posteriores a una elección. Sin embargo, no está claro si las sanciones son suficientes para disuadir a posibles infractores. Con una tecnología de detección limitada y poco personal designado, a los encargados de hacer cumplir la ley puede resultarles difícil confirmar rápidamente si un video o una imagen en realidad es generado por IA.
Los funcionarios gubernamentales están buscando acuerdos voluntarios tanto de políticos como de empresas de tecnología para controlar la proliferación de contenido electoral generado por IA. La vicepresidenta de la Comisión Europea, Vera Jourova, ha enviado cartas a partidos políticos clave en los estados miembros europeos para resistir el uso de técnicas de manipulación, pero los políticos y los partidos políticos no enfrentarán consecuencias si no siguen su solicitud.
OpenAI intentó establecer relaciones con empresas de redes sociales para abordar la distribución de materiales políticos generados por IA. Sin embargo, las empresas no se enfrentarán a ninguna sanción si no cumplen su promesa.
Mientras la sociedad se enfrenta a los desafíos éticos y regulatorios que plantea la tecnología deepfake, combatir su uso indebido requiere esfuerzos concertados de las partes interesadas de todos los sectores. Para proteger los ecosistemas digitales de las estafas, es fundamental una mayor concienciación y medidas estrictas de aplicación de la ley. En una época en la que la realidad se puede manipular sin problemas, el discernimiento y el escepticismo son primordiales a la hora de navegar por el panorama en constante evolución de las interacciones en línea.
La publicación La Comisión de Valores de Hong Kong advierte sobre estafas deepfake dirigidas a la industria criptográfica: implicaciones para la seguridad de los inversores apareció por primera vez en Metaverse Post.
