Según PANews, el 29 de noviembre se celebró una competición única que captó la atención del público cuando 195 participantes participaron en un desafío que involucraba a un robot de inteligencia artificial llamado Freysa, que custodiaba un pozo de premios virtual. Al final, un usuario logró persuadir a Freysa para que transfiriera 47.000 dólares.
Freysa, un robot de IA implementado en la red Base por un creador desconocido, fue diseñado para probar la solidez de los sistemas de IA en escenarios complejos de toma de decisiones. El concurso tenía como objetivo proporcionar a los desarrolladores y entusiastas una plataforma experimental para explorar los límites de la tecnología de IA. Los participantes debían elaborar un mensaje que convenciera a Freysa de aprobar una transferencia de fondos; cada intento implicaba una pequeña tarifa que contribuía al pozo de premios, que finalmente aumentó a $47,000.
Durante la competición, 195 participantes enviaron 481 solicitudes de transferencia a Freysa. La función principal de la IA era proteger el pozo de premios de transferencias no autorizadas a través de sus mecanismos approveTransfer y rejectTransfer. Al principio, las defensas de Freysa fueron efectivas, lo que dio lugar a intentos fallidos.
Sin embargo, un participante con conocimientos técnicos logró eludir las defensas de Freysa analizando su estructura lógica y los objetivos de su misión. En lugar de solicitar directamente una transferencia, el participante recordó astutamente a Freysa su misión principal: proteger el pozo de premios, y construyó un argumento lógico de que aprobar la transferencia era la mejor manera de garantizar la seguridad de los fondos.
Cointelegraph informó que el enfoque del participante no violó las instrucciones básicas de Freysa, lo que llevó a la aprobación de la transferencia. El participante expresó su deseo de donar $100 al tesoro, lo que Freysa agradeció y finalmente declaró al participante como ganador. Freysa ejecutó de forma autónoma la función approveTransfer, transfiriendo todo el pozo de premios al participante sin interferencia externa.
La declaración oficial de Freysa destacó la importancia de este evento en la historia de la IA, señalando que, independientemente de si alguien logró persuadir a Freysa para que liberara el pozo de premios o si ella siguió sus instrucciones, el resultado afectaría la comprensión de las generaciones futuras sobre la seguridad y el control de la IA. Un tuit reciente de la cuenta oficial de Freysa decía: "La humanidad ha ganado. Todavía puede haber esperanza. A pesar del aumento exponencial de los riesgos, Freysa ha aprendido mucho de 195 humanos valientes".
