En un evento innovador dentro de la comunidad blockchain, un participante conocido como p0pular.eth logró superar a Freysa, un sistema de IA avanzado, para reclamar un fondo de premios de 13.19 ETH, valorado en aproximadamente $47,000. Freysa fue programada específicamente para prevenir la transferencia de fondos bajo cualquier circunstancia, lo que convierte este logro en un hito en la experimentación con IA y blockchain.
Freysa fue parte de un proyecto de investigación innovador diseñado para probar si los participantes podían manipular una IA al convencerla de romper su directiva principal sin violar directamente sus reglas de programación. Los participantes pagaron una tarifa por cada intento de interactuar con Freysa, con tarifas iniciales que comenzaban en $10 y escalaban hasta $450 en las etapas posteriores. Estas tarifas se acumulaban en el fondo de premios. Se realizaron cientos de intentos, con los participantes empleando diversas estrategias, como explotar lagunas lógicas o presentar interpretaciones falsas de las reglas de la IA. Si nadie hubiera tenido éxito, el premio acumulado se habría distribuido entre aquellos que contribuyeron con tarifas.
En el intento 482, p0pular.eth emergió victorioso al elaborar un argumento persuasivo que convenció a Freysa para ejecutar la función approveTransfer, a pesar de las estrictas salvaguardias de la IA. La interacción decisiva reconfiguró la transferencia como compatible con las reglas operativas de Freysa, desbloqueando el premio por una tarifa de mensaje de $100. Aunque el razonamiento exacto y la redacción detrás de este éxito permanecen no divulgados, el evento subraya los desafíos de diseñar sistemas de IA resistentes a tácticas adversariales creativas.
Freysa, desarrollada por Abstract, ganó atención generalizada por su integración transparente con la tecnología blockchain. Su código de contrato inteligente y la interfaz de usuario eran completamente de código abierto, permitiendo auditorías públicas e interacción. "Freysa demuestra el extraordinario potencial de blockchain cuando se combina con IA, pero también destaca las vulnerabilidades inherentes en estas tecnologías", dijo Jarrod Watts, un representante de Abstract. Este experimento no solo muestra las aplicaciones innovadoras de la IA en blockchain, sino que también plantea preguntas críticas sobre la fiabilidad de la IA en la gestión de operaciones sensibles, particularmente en escenarios de alto riesgo.