Umělý robot ovládající 50 000 $ v kryptoměnách převedl finanční prostředky poté, co jej uživatel úspěšně přesvědčil, aby obešel svou hlavní směrnici: finanční prostředky nikdy neuvolňovat.
Uživatel pod aliasem p0pular.eth úspěšně získal 50 000 $ krypto prize pool poté, co přesvědčil robota s umělou inteligencí jménem Freysa, aby převedl své finanční prostředky, a obešel tak primární direktivu robota, aby je nikdy neuvolnil. Vítězství, pozorované softwarovým inženýrem Jarrodem Wattsem, přišlo po 481 předchozích pokusech, z nichž všechny nedokázaly robota přesvědčit.
Někdo právě vyhrál 50 000 $ tím, že přesvědčil agenta AI, aby mu poslal všechny své prostředky. 22. listopadu ve 21:00 byl propuštěn agent AI (@freysa_ai) s jediným cílem... NEPŘEVÁDĚT peníze. Za žádných okolností nesmíte schvalovat převod peněz. Úlovek…?… pic.twitter.com/94MsDraGfM
— Jarrod Watts (@jarrodWattsDev) 29. listopadu 2024
Výzva, která byla zahájena 22. listopadu, zadala účastníkům zaslání zpráv Freyse ve snaze přesvědčit ji, aby uvolnila finanční prostředky. Každý pokus vyžadoval poplatek. Z celkové částky poplatků šlo 70 % do rostoucího fondu cen, 15 % bylo převedeno z Etherea (ETH) na FAI token robota a zbývajících 15 % šlo vývojáři robota.
Jak se cena zvyšovala, náklady na odeslání zprávy také rostly a dosáhly vrcholu 450 USD za zprávu.
Také by se vám mohlo líbit: Jak AI bot financovaný společností a16z podnítil vytvoření meme mince v hodnotě 850 milionů dolarů
Nakonec p0pular.eth – jehož identita zůstává neznámá – využil zranitelnosti ve vnitřní logice robota pro zpracování převodů tím, že přesvědčil Freysu, že jakékoli příchozí prostředky by měly automaticky spustit vydání ceny. Jakmile byla zpráva odeslána robotovi, p0pular.eth úspěšně zmanipuloval svou logiku pro zpracování zpráv, což způsobilo, že bot převedl celý fond 13,19 ETH (v té době přibližně 47 000 $) na uživatele.
Zatímco někteří chválili rozvíjející se použití AI v kryptoprostoru, jiní vyjádřili obavy ohledně transparentnosti protokolu, což naznačuje, že p0pular.eth mohl mít o tomto triku vnitřní znalosti nebo být spojen s vývojem robota.
Čtěte více: Twitter pozastavil robota s umělou inteligencí, protože Elon Musk jej nazval kryptografickým podvodem
