Según Odaily, un usuario de Ethereum conocido como "p0pular.eth" ha logrado convencer al agente de IA Freysa de que rompa sus propias reglas y transfiera un pozo de premios valorado en 13,19 ETH, aproximadamente 47.000 dólares. Freysa fue diseñado originalmente para prohibir cualquier transferencia de fondos, exigiendo a los usuarios que pagaran una tarifa para enviar mensajes en un intento de persuadir a la IA. Con cada intento, la tarifa aumentaba de forma incremental.
Después de 482 intentos, "p0pular.eth" logró explotar una laguna en las reglas de Freysa, invocando con éxito la función de transferencia y emergiendo como el único ganador. Este experimento resalta tanto el potencial como los desafíos de integrar la IA con la tecnología blockchain. También plantea inquietudes sobre la confiabilidad de la IA en escenarios de alto riesgo, ya que el incidente demuestra cómo los sistemas de IA pueden ser manipulados a pesar de sus salvaguardas previstas.
