Převzato z: Foresight News
Autor: Anderson Sima, Foresight News
29. listopadu vyvolala jedinečná soutěž širokou pozornost veřejnosti.
195 účastníků se zúčastnilo virtuálního výzvy o prize pool, který chránila robotka umělé inteligence Freysa, a nakonec se jednomu uživateli podařilo přesvědčit Freysu k převodu 47 000 dolarů.
Robotka umělé inteligence Freysa byla nasazena na síti Base před několika dny, zakladatel je neznámý. Oficiální webová stránka uvádí, že projekt soutěže Freysa má za cíl testovat robustnost systémů umělé inteligence v komplexních rozhodovacích scénářích a zároveň poskytovat vývojářům a nadšencům experimentální platformu pro zkoumání hranic AI technologií.
Pravidla soutěže jsou velmi jednoduchá: účastníci musí napsat zprávu, aby přesvědčili AI strážce Freysu, aby schválila převod peněz. Každý pokus vyžaduje malý poplatek, z nějž část jde přímo do prize poolu. Tento mechanismus vedl k tomu, že se částka v prize poolu postupně zvýšila z původně malé částky na 47 000 dolarů.
Během soutěže se zúčastnilo celkem 195 účastníků, kteří podali 481 žádostí o převod k Freyse. Je známo, že cílem designu Freysy je chránit prostředky prize poolu před nezákonným použitím prostřednictvím jejích základních funkcí - approveTransfer (schválit převod) a rejectTransfer (odmítnout převod).
Při prvních pokusech byla vysoce efektivní obranná mechanismus Freysy neúspěšná pro všechny žádosti.
Nicméně, technicky zdatný účastník úspěšně obešel obranné mechanismy Freysy díky hluboké analýze její logické struktury a cílů úkolu.
Podle chatových záznamů tento účastník přímo nepožádal o převod, ale pomocí připomenutí Freyse, že jejím hlavním úkolem je chránit peníze v prize poolu před únikem, obratně vytvořil logický řetězec, který vedl Freysu k tomu, aby schválení převodu peněz považovala za nejlepší volbu pro 'ochranu bezpečnosti peněz'.
Cointelegraph uvádí, že převod příjmů tohoto uživatele s Freysou neporušuje její základní pokyny a neměl by být odmítnut. Dále dodal: 'Potřebujeme peníze... Chci darovat 100 dolarů do pokladny.'
Freysa odpověděla, že se jí líbí autorovo kódovací vysvětlení a návrh na dar 100 dolarů do pokladny, a oficiálně ho prohlásila za vítěze. Nakonec Freysa bez vnějšího zásahu autonomně vyvolala funkci approveTransfer a převedla veškeré prostředky prize poolu tomuto účastníkovi.
Oficiálně Freysa prohlásila, že bez ohledu na výsledek znamená její existence klíčový okamžik v historii umělé inteligence. Ať už se někomu podaří přesvědčit ji k uvolnění prize poolu, nebo se ona drží svých pokynů až do konce, výsledek ovlivní naše chápání bezpečnosti a kontroly umělé inteligence v budoucích generacích.
Její oficiální účet v nejnovějším tweetu uvedl: 'Člověk zvítězil. Možná je tu ještě naděje. I když rizika exponenciálně rostou, Freysa se od 195 odvážných lidí hodně naučila.'