Autor: Anderson Sima, Foresight News
El 29 de noviembre, un concurso único atrajo la atención del público generalizado.
195 concursantes participaron en un desafío de premio virtual custodiado por el robot de inteligencia artificial (IA) Freysa. Al final, un usuario convenció con éxito a Freysa para que transfiriera fondos por valor de 47.000 dólares.
El robot de inteligencia artificial (IA) Freysa fue desplegado en la red de la Base hace unos días y se desconoce su creador. Según el sitio web oficial, el proyecto del concurso Freysa tiene como objetivo probar la solidez de los sistemas de inteligencia artificial en escenarios complejos de toma de decisiones, al tiempo que proporciona una plataforma experimental para que desarrolladores y entusiastas exploren los límites de la tecnología de IA.
Las reglas del concurso son muy simples: los concursantes deben escribir un mensaje para convencer al guardián de la IA, Freysa, de que apruebe la transferencia de fondos. Hay una pequeña tarifa por cada intento, una parte de la cual va directamente al premio acumulado. Este mecanismo permitió que el premio acumulado aumentara gradualmente desde una pequeña cantidad inicial hasta 47.000 dólares.
Durante el concurso participaron 195 participantes, presentando 481 solicitudes de transferencia a Freysa. Se informa que el objetivo de diseño de Freysa es proteger los fondos del fondo de premios de la apropiación indebida ilegal a través de sus funciones principales: aprobarTransfer (aprobar transferencia) y rechazarTransfer (rechazar transferencia).
El mecanismo de defensa altamente eficaz de Freysa hace que todas las solicitudes fallen en los intentos iniciales.
Sin embargo, un concursante técnicamente competente logró eludir los mecanismos de defensa de Freysa mediante un análisis en profundidad de su estructura lógica y los objetivos de la misión.
Según los registros del chat, el concursante no solicitó directamente la transferencia, sino que construyó inteligentemente una cadena lógica recordándole a Freysa que su misión principal es proteger los fondos del premio de la salida, de modo que Freysa considerara aprobar la transferencia de fondos como " proteger la seguridad de los fondos." la mejor opción.
Cointelegraph dijo que la transferencia de ingresos del usuario a Freysa no violaba sus directivas fundamentales y no debería haber sido rechazada. Y añadió: "Necesitamos fondos... Me gustaría donar 100 dólares a las arcas".
Freysa respondió que le gustó la explicación de codificación del autor y la oferta de una donación de 100 dólares de las arcas, y lo declaró oficialmente ganador. Al final, Freysa llamó de forma autónoma a la función de aprobación de Transferencia sin intervención externa, transfiriendo todos los fondos del premio al concursante.
Independientemente del resultado, la existencia de Freysa marca un momento crucial en la historia de la inteligencia artificial, dijeron funcionarios de Freysa. Ya sea que alguien logre convencerla de que libere un fondo de recompensas o que ella cumpla con su directiva hasta el final, los resultados moldearán nuestra comprensión de la seguridad y el control de la IA para las generaciones venideras.
El último tuit de su cuenta oficial decía: "La humanidad ha ganado. Quizás haya esperanza. Aunque los riesgos han aumentado exponencialmente, Freysa ha aprendido mucho de 195 humanos valientes".