Un nuevo fraude relacionado con la IA ha surgido con miles de influenciadores generados por IA que han inundado sitios sociales como Instagram usando imágenes robadas de personas reales.
El fraude incluye robar videos de modelos reales y creadores de contenido para adultos, dándoles caras generadas por IA, y monetizando sus cuerpos con enlaces a sitios de citas como Patreon, competiciones de OnlyFans y varias aplicaciones de IA.
Los influenciadores generados por IA compiten con humanos en Instagram
En abril, 404 Media reportó por primera vez esta práctica, cuando surgió por primera vez. La práctica ha crecido ahora en una tendencia popular que ha llevado a muchos a asumir que la red social dirigida por Meta es incapaz o no está dispuesta a detener la aparente tendencia en su plataforma.
Esto ocurre mientras los creadores de contenido humano en Instagram dicen que ahora están compitiendo con contenido de IA de una manera que está afectando su viabilidad.
Con algunas de las herramientas y aplicaciones de IA disponibles en las tiendas de aplicaciones de Apple y Google Play, los influenciadores de IA ahora pueden crear y monetizar fácilmente sus cuentas. Según Wired, revisaron más de 1,000 cuentas de Instagram generadas por IA y canales de Discord donde las personas que crean este contenido comparten consejos y discuten estrategias y varios guías que explican cómo ganar dinero a través de “pimping de IA”.
Wired descubrió que el problema, que solía ser menor en Instagram, había crecido hasta convertirse en una práctica enorme en línea con varias predicciones sobre el futuro del paisaje de las redes sociales, donde el contenido generado por IA eclipsa al de los humanos.
Los creadores de contenido para adultos que promocionan su trabajo en Instagram ahora están preocupados por competir directamente con estas cuentas de imitación de IA, muchas de las cuales utilizan fotografías y videos robados de creadores de contenido para adultos y modelos de Instagram.
Elaina St James, una creadora de contenido para adultos, dijo que aunque puede haber otros cambios en el algoritmo de Instagram que podrían haber contribuido a esto, desde la explosión de cuentas de influenciadores generados por IA en Instagram, su “alcance ha disminuido enormemente,” de un típico de 1 millón a 5 millones de vistas al mes. No ha alcanzado un millón en los últimos 10 meses, y a veces ha tenido menos de 500,000 vistas.
“Probablemente esta sea una de las razones por las que mis vistas están disminuyendo. Es porque estoy compitiendo con algo que no es natural.” St James.
Alexios Mantzarlis, el director de la iniciativa de seguridad, confianza y seguridad en Cornell Tech y anteriormente principal de inteligencia de confianza y seguridad en Google, compiló una lista de alrededor de 900 cuentas en la investigación de 404 Media.
Una señal de cómo se verá las redes sociales en breve
Mantzarlis dijo que esto no era nada totalmente nuevo o sorprendente, ya que solo estaba cumpliendo predicciones hechas anteriormente sobre la tecnología de IA y su adopción en plataformas de redes sociales.
“Se sintió como una posible señal de cómo se verá las redes sociales en cinco años,” dijo Mantzarlis.
“Porque esto puede llegar a otras partes de Internet, no solo al nicho de personas atractivas en Instagram. Esto probablemente es una señal de que va a ser bastante malo.”
Mantzarlis.
De más de 1,000 cuentas de influenciadores de Instagram generadas por IA, al menos 100 incluían contenido deepfake que tomaba videos existentes, generalmente de modelos y artistas de entretenimiento para adultos, y reemplazaba sus caras con una generada por IA para dar a los videos un aspecto nuevo.
Los videos parecerán contenido nuevo y original consistente con las otras imágenes y videos generados por IA compartidos por el influencer generado por IA.
Instagram actuará al recibir quejas
Instagram dijo que tomaría medidas sobre las cuentas solo si son reportadas por el propietario adecuado o alguien autorizado para informar en su nombre. Sin embargo, muchos influenciadores humanos están diciendo que el canal proporcionado no ha estado funcionando ya que tienen demasiadas cuentas de imitadores que seguir.
St James agregó que el hecho de que muchas de estas cuentas de influenciadores generados por IA sean operadas por hombres añade insulto a la herida.
“Nosotros, como mujeres en el mundo, ganamos menos dinero. Estamos en desventaja en muchas maneras. Un área del mundo donde sí tenemos una ventaja es en el tema de los influenciadores y el modelaje, así que es solo una capa adicional,” dijo St James.
“Me molesta un poco que sea un hombre el que esté ganando dinero haciéndose pasar por una mujer,” agregó.
Apple, que hasta ahora no ha logrado resolver el problema del “uso dual” de las aplicaciones de intercambio de caras que pueden usarse de manera inocente pero que a menudo se utilizan para crear contenido no consensuado, fue eliminada de la App Store después de ser cuestionada sobre el asunto.
De Cero a Pro en Web3: Tu Plan de Lanzamiento Profesional de 90 Días