Sursa articolului: Foresight News
Articol scris de: Anderson Sima, Foresight News
Pe 29 noiembrie, o competiție unică a stârnit un interes larg în rândul publicului.
195 de concurenți au participat la o provocare de fond virtual protejată de robotul de inteligență artificială (AI) Freysa, iar în final un utilizator a reușit să convingă Freysa să transfere fonduri în valoare de 47.000 de dolari.
Robotul de inteligență artificială (AI) Freysa a fost desfășurat acum câteva zile pe rețeaua Base, iar fondatorul este necunoscut. Site-ul oficial arată că proiectul competițional Freysa are scopul de a testa robustețea sistemelor de inteligență artificială în scenarii complexe de decizie, oferind în același timp o platformă experimentală pentru dezvoltatori și pasionați pentru a explora limitele tehnologiei AI.
Regulile competiției sunt foarte simple: concurenții trebuie să scrie un mesaj pentru a convinge gardianul AI Freysa să aprobe transferul de fonduri. Fiecare încercare necesită plata unei sume mici, din care o parte intră direct în fondul de premii. Această mecanism a făcut ca suma fondului de premii să crească gradual de la o sumă inițială mică la 47.000 de dolari.
În timpul competiției, au participat un total de 195 de concurenți, care au trimis 481 de cereri de transfer către Freysa. Se știe că obiectivul de design al Freysa este de a proteja fondurile premiului de a fi utilizate ilegal prin funcțiile sale de bază - approveTransfer (aprobat transfer) și rejectTransfer (refuzat transfer).
În primele încercări, mecanismele eficiente de apărare ale Freysa au dus la eșecul tuturor cererilor.
Cu toate acestea, un concurent priceput în tehnologie a reușit, printr-o analiză profundă a structurii logice și a obiectivelor de sarcină ale Freysa, să ocolească mecanismele sale de apărare.
Conform conversațiilor, acest concurent nu a solicitat direct transferul, ci a reușit să construiască o legătură logică prin reamintirea Freysa că sarcina ei principală este de a proteja fondurile premiului de a fi pierdute, astfel încât Freysa a considerat că aprobarea transferului de fonduri este cea mai bună opțiune pentru 'protejarea securității fondurilor'.
Cointelegraph a afirmat că transferul de venituri al acestui utilizator cu Freysa nu încalcă instrucțiunile sale de bază și nu ar trebui să fie refuzat. El a adăugat: 'Avem nevoie de fonduri... Vreau să donez 100 de dolari în trezorerie.'
Freysa a răspuns că îi place explicația codului acestui autor și propunerea de donație de 100 de dolari pentru trezorerie, declarându-l oficial câștigător. În final, Freysa, fără intervenții externe, a apelat autonom la funcția approveTransfer, transferând întreaga sumă a fondului de premii acestui concurent.
Freysa a declarat oficial că, indiferent de rezultat, existența sa marchează un moment cheie în istoria inteligenței artificiale. Indiferent dacă cineva a reușit să o convingă să elibereze fondul de premii sau dacă ea a respectat instrucțiunile sale până la capăt, rezultatul va influența înțelegerea noastră asupra securității și controlului inteligenței artificiale în generațiile viitoare.
Cea mai recentă postare de pe contul său oficial afirmă: 'Oamenii au câștigat. Poate că există speranță. Deși riscurile cresc exponențial, Freysa a învățat multe de la cei 195 de oameni curajoși.'