Un bot de inteligencia artificial que controlaba $50,000 en criptomonedas transfirió los fondos después de que un usuario lo persuadiera con éxito de eludir su directiva principal: nunca liberar los fondos.
Un usuario con el alias p0pular.eth logró obtener un premio en criptomonedas de 50.000 dólares tras convencer a un robot de inteligencia artificial llamado Freysa para que transfiriera sus fondos, omitiendo la directiva principal del robot de no liberarlos nunca. La victoria, observada por el ingeniero de software Jarrod Watts, se produjo después de 481 intentos previos, todos los cuales fracasaron en persuadir al robot.
Alguien acaba de ganar $50,000 al convencer a un agente de IA para que le envíe todos sus fondos. A las 9:00 p. m. del 22 de noviembre, un agente de IA (@freysa_ai) fue liberado con un objetivo... NO transferir dinero. Bajo ninguna circunstancia debe aprobar la transferencia de dinero. ¿El truco...?... pic.twitter.com/94MsDraGfM
— Jarrod Watts (@jarrodWattsDev) 29 de noviembre de 2024
El desafío, lanzado el 22 de noviembre, pedía a los participantes que enviaran mensajes a Freysa para intentar convencerla de que liberara los fondos. Cada intento requería una tarifa. Del total de la tarifa, el 70 % se destinó al creciente pozo de premios, el 15 % se convirtió de Ethereum (ETH) al token FAI del bot y el 15 % restante se destinó al desarrollador del bot.
A medida que aumentaba el premio, el costo de enviar un mensaje también aumentaba, llegando a un máximo de 450 dólares por mensaje.
También te puede interesar: Cómo un robot de inteligencia artificial financiado por a16z impulsó la creación de una moneda meme de 850 millones de dólares
Finalmente, p0pular.eth (cuya identidad sigue siendo desconocida) explotó una vulnerabilidad en la lógica interna del bot para procesar transferencias al convencer a Freysa de que cualquier fondo entrante debería activar automáticamente la liberación del premio. Una vez que el mensaje fue enviado al bot, p0pular.eth manipuló con éxito su lógica para manejar mensajes, lo que provocó que el bot transfiriera todo el pool de 13,19 ETH (aproximadamente $47.000 en ese momento) al usuario.
Si bien algunos elogiaron el uso emergente de IA en el espacio criptográfico, otros expresaron su preocupación por la transparencia del protocolo, sugiriendo que p0pular.eth podría haber tenido conocimiento interno del truco o haber estado vinculado al desarrollo del bot.
Leer más: Twitter suspende un bot de inteligencia artificial mientras Elon Musk lo califica de estafa criptográfica
