Los chatbots del mercado negro se han convertido en una de las últimas tendencias emergentes en el sector de la IA y están prosperando a medida que los modelos de lenguaje grande (LLM) maliciosos ganan dinero para sus creadores.

Un estudio estadounidense ha descubierto que existe un floreciente mercado negro de inteligencia artificial en el que los LLM no registrados están ganando mucho dinero vendiendo sus servicios de forma clandestina. Las empresas registradas y que dan a conocer sus servicios al público, como OpenAI, Perplexity y otras grandes corporaciones que ofrecen los mismos servicios, tienen prescripciones regulatorias que deben cumplir.

Los LLM clandestinos pueden esquivar los antivirus

El estudio, que se centró principalmente en Malla, un ecosistema que prospera mediante la bastardización de los LLM legales y las plataformas de inteligencia artificial con fines de lucro, examinó 212 LLM del mercado negro que figuraban en mercados clandestinos entre abril y octubre de 2023, y evaluó sus atributos.

Uno de los autores, Zilong Lin de la Universidad de Indiana, dijo:

“Descubrimos que la mayoría de los servicios de mala en foros clandestinos existen principalmente para obtener ganancias”.

El estudio también encontró que algunas plataformas están ganando hasta 28.000 dólares en dos meses gracias a las suscripciones y compras de personas que quieren escapar de los confines de la IA regulada.

Algunos, como DarkGPT y EscapeGPT, son simplemente derivados de jailbreak de LLM debidamente autorizados que se utilizan legalmente.

Otro estudio ha demostrado que estos LLM ilícitos pueden utilizarse para muchas tareas, como la creación de correos electrónicos de phishing. Por ejemplo, DarkGPT y EscapeGPT pueden crear códigos correctos casi el 75 % de las veces, pero los antivirus no pueden detectarlos.

Otro modelo, conocido como WolfGPT, era considerado una “potencia” para crear correos electrónicos de phishing y esquivar los detectores de spam.

Según Andrew Hundt, experto en innovación informática de la Universidad Carnegie Mello, el auge del mercado clandestino de la IA debería ser motivo de preocupación.

Pidió un requisito legal que obligue a las empresas que desarrollan títulos LLM a tener sistemas robustos que impidan la replicación por parte de personas con motivos siniestros.

“También necesitamos marcos legales para garantizar que las empresas que crean estos modelos y brindan servicios lo hagan de manera más responsable, de manera que mitiguen los riesgos que plantean los actores maliciosos”, dijo Hundt.

Comprender cómo funcionan los chatbots del mercado negro es clave

El profesor Xiaofeng Wang, de la Universidad de Indiana, que participó del estudio, dijo que es importante entender cómo funcionan estos LLM del mercado negro para que las soluciones sean específicas para los problemas identificados.

El profesor Wang agregó que la manipulación de estos LLM no se puede evitar, lo que crea un margen para que el sector cree fuertes barreras de protección para minimizar el daño potencial ejecutado a través de ciberataques en todas sus formas.

Creemos que ahora es un buen momento para empezar a estudiarlos porque no queremos esperar hasta que el daño mayor ya esté hecho”.

Profesor Wang.

Según el profesor, toda tecnología, incluida la maestría en derecho, tiene dos caras: una buena y otra mala.

Los expertos en ciberseguridad ya están pidiendo a la industria de la IA que reduzca el ritmo de su carrera y reflexione sobre los crecientes peligros de que su tecnología sea adulterada por comunidades anónimas de Internet.

Un artículo de Forbes publicado a finales del año pasado decía que debería haber una introducción responsable de nuevas ideas, especialmente en torno a los LLM. También hacía hincapié en el papel de la regulación en la promoción de innovaciones responsables en IA, a diferencia de la idea errónea de que la regulación sofoca el desarrollo.

“Los desarrolladores y proveedores de LLM deben hacer una pausa en una frenética carrera armamentista que apunta a producir modelos cada vez más complejos y, en su lugar, deberían trabajar con los reguladores en la adopción de marcos para el diseño y uso ético de aplicaciones de IA generativa”, se lee en parte del informe.

Ahora, con lagunas regulatorias, el mercado negro de IA también está creciendo rápidamente hasta convertirse en una industria multimillonaria y puede necesitar grandes recursos para contenerlo, según Fast Company.