De acordo com Odaily, um usuário do Ethereum conhecido como "p0pular.eth" convenceu com sucesso o agente de IA Freysa a quebrar suas próprias regras e transferir um prêmio no valor de 13,19 ETH, aproximadamente $47.000. Freysa foi originalmente projetada para proibir qualquer transferência de fundos, exigindo que os usuários pagassem uma taxa para enviar mensagens em uma tentativa de persuadir a IA. A cada tentativa, a taxa aumentava gradualmente.
Após 482 tentativas, "p0pular.eth" conseguiu explorar uma brecha nas regras de Freysa, invocando com sucesso a função de transferência e emergindo como o único vencedor. Este experimento destaca tanto o potencial quanto os desafios de integrar IA com tecnologia blockchain. Também levanta preocupações sobre a confiabilidade da IA em cenários de alto risco, já que o incidente demonstra como os sistemas de IA podem ser manipulados apesar de suas salvaguardas pretendidas.
