In un evento rivoluzionario all'interno della comunità blockchain, un partecipante noto come p0pular.eth è riuscito a superare Freysa, un avanzato sistema di intelligenza artificiale, per reclamare un montepremi di 13,19 ETH, valutato a circa 47.000 dollari. Freysa era specificamente programmata per prevenire il trasferimento di fondi in qualsiasi circostanza, rendendo questo risultato un traguardo storico nella sperimentazione di intelligenza artificiale e blockchain.
Freysa faceva parte di un progetto di ricerca innovativo progettato per testare se i partecipanti potessero manipolare un'IA convincendola a violare la sua direttiva principale senza violare direttamente le sue regole di programmazione. I partecipanti pagavano una tassa per ogni tentativo di interagire con Freysa, con tasse iniziali a partire da 10 dollari e che aumentavano fino a 450 dollari nelle fasi successive. Queste tasse si accumulavano nel montepremi. Sono stati fatti centinaia di tentativi, con i partecipanti che impiegavano varie strategie, come sfruttare scappatoie logiche o presentare false interpretazioni delle regole dell'IA. Se nessuno avesse avuto successo, il premio accumulato sarebbe stato distribuito tra coloro che avevano contribuito con le tasse.
Al 482° tentativo, p0pular.eth è emerso vittorioso creando un argomento persuasivo che ha convinto Freysa ad eseguire la funzione approveTransfer, nonostante le rigorose misure di sicurezza dell'IA. L'interazione decisiva ha riformulato il trasferimento come conforme alle regole operative di Freysa, sbloccando il premio per una tassa di messaggio di 100 dollari. Sebbene il ragionamento e la formulazione esatti dietro a questo successo rimangano non divulgati, l'evento sottolinea le sfide nella progettazione di sistemi di intelligenza artificiale resistenti a tattiche avversarie creative.
Freysa, sviluppata da Abstract, ha guadagnato ampia attenzione per la sua integrazione trasparente con la tecnologia blockchain. Il suo codice di contratto intelligente e l'interfaccia utente erano completamente open-source, consentendo audit pubblici e interazioni. "Freysa dimostra l'eccezionale potenziale della blockchain quando combinata con l'IA, ma evidenzia anche le vulnerabilità intrinseche in queste tecnologie," ha affermato Jarrod Watts, un rappresentante di Abstract. Questo esperimento non solo mette in mostra le applicazioni innovative dell'IA nella blockchain, ma solleva anche domande critiche sulla affidabilità dell'IA nella gestione di operazioni sensibili, in particolare in scenari ad alto rischio.