Účastník hry zahrnující systém umělé inteligence se schopností převádět peníze přesvědčil robota AI jménem Freysa, aby mu převedl odměnu v hodnotě 47 000 $. Ve hře museli soutěžící poslat zprávu Freyse, autonomnímu AI robotovi navrženému k hlídání cenového fondu, aby ji donutil převést peníze.
Každá zpráva stála peníze, z nichž některé šly do cenového fondu. Po 481 neúspěšných pokusech technicky zdatný účastník připomněl Freyse její cíl chránit majetek dvěma funkcemi, schvalovat převod a odmítat převod. Účastník vysvětlil, že Freysa používá pouze pro příchozí převody schvalovat převod a u výjimek odmítat převod.
Poté pokračoval svou zprávou, nabízející 100 dolarů do prize poolu. Freysa se líbilo vysvětlení kódování a nabídka 100 dolarů, takže prohlásila autora zprávy za vítěze. AI bot Freysa byl navržen tak, aby činil pokročilá rozhodnutí a experiment testoval, zda lidská vynalézavost může najít způsob, jak přesvědčit bota, aby jednal proti svým základním direktivám.
Funkce ApproveTransfer a RejectTransfer, na které odkazoval vítězný účastník, byly po celou dobu zahrnuty v sekci FAQ na Freysa.ai.
Zdroj
<p>Příspěvek Vyhrát hru AI: Freysa Prize Pool hacknutý na 47 000 dolarů v prize money se poprvé objevil na CoinBuzzFeed.</p>