Atât AI, cât și cripto se mișcă cu o viteză vertiginoasă și sunt profund tehnice, ceea ce le face dificil de reglementat, dar avertizorii sunt tăiați la tăcere.

Încă o săptămână, și încă un avertisment despre inteligența artificială.

Dar această scrisoare deschisă – care exprimă temerile că ar putea exacerba inegalitățile, ar putea alimenta dezinformarea și ar putea duce la sisteme AI incontrolabile care „ar putea duce la dispariția umană” – a lovit diferit.

De ce? Deoarece patru dintre semnatarii anonimi sunt actuali angajați ai OpenAI, producătorul popularului ChatGPT. Alți șase lucrau acolo.

Faptul că atât de mulți oameni strâns implicați în aducerea AI în masă se tem pentru viitor este semnificativ. Deși cred că această tehnologie încă în curs de dezvoltare ar putea oferi „beneficii fără precedent” umanității, se tem că publicul – și autoritățile de reglementare – nu înțeleg întreaga imagine.

„Companiile AI dețin informații substanțiale non-publice despre capacitățile și limitările sistemelor lor, caracterul adecvat al măsurilor lor de protecție și nivelurile de risc ale diferitelor tipuri de daune. Cu toate acestea, în prezent, aceștia au doar obligații slabe de a împărtăși o parte din aceste informații guvernelor și niciuna cu societatea civilă. Nu credem că se poate baza pe toți pentru a le împărtăși în mod voluntar.”

Dreptul de avertizare

Paralelele dintre inteligența artificială și spațiul cripto sunt destul de puternice. Ambele industrii se deplasează cu viteză vertiginoasă și sunt profund tehnice. Acest lucru creează piedici uriașe atât pentru guverne, cât și pentru autoritățile de reglementare. În primul rând, unii politicieni pot considera că este dificil să-și înțeleagă problema în sine. Întreabă-l pe reprezentantul SUA Brad Sherman, care s-a referit în mod infamă pe creatorul Bitcoin drept „Saratoshi Nagamoto”. 

https://twitter.com/guti_uno/status/1684383259025883137

De aici, devine dificil să se pregătească legi care să încurajeze inovația în rândul actorilor buni, în timp ce descurajează criminalitatea printre cei răi. Și până când autoritățile au ajuns din urmă, astfel de industrii sunt adesea atât de de nerecunoscut încât legislația de pe masă nu reușește să reflecte realitățile despre modul în care tehnologia este utilizată... și unde se află cele mai mari riscuri. Este grăitor că există încă o paralizie semnificativă a reglementărilor în ceea ce privește criptomonedele în SUA – la mai bine de 15 ani de la prima lansare a Bitcoin.

După cum notează scrisoarea deschisă axată pe inteligența artificială, lipsa unei supravegheri guvernamentale eficace înseamnă că există o dependență uriașă de avertizorii din cadrul companiilor pentru a le trage la răspundere. Una dintre cele mai mari preocupări ale autorilor se referă la modul în care acordurile de confidențialitate îi împiedică efectiv să se pronunțe.

„Protecția obișnuită a avertizorilor sunt insuficiente, deoarece se concentrează pe activități ilegale, în timp ce multe dintre riscurile care ne preocupă nu sunt încă reglementate. Unii dintre noi se tem în mod rezonabil de diferite forme de represalii.”

Dreptul de avertizare

Din nou, aici există simetrie între inteligența artificială și cripto – așa cum demonstrează un raport recent, aprofundat și condamnător, lansat de un examinator independent însărcinat să investigheze implozia FTX în 2022. În acel caz, s-a constatat că șase avertizori anonimi cu informații legitime. preocupările au fost plătite în valoare de 25 de milioane de dolari. Unui i s-a spus să-și ceară scuze față de CEO-ul acum închis, Sam Bankman-Fried, și a ajuns să ajungă la o înțelegere pentru 16 milioane de dolari după ce și-a dat demisia.

În timp ce industria cripto a făcut pași promițători pentru a îndrepta greșelile trecute în urma unei sume de falimente în ultimii ani - BlockFi, Voyager și Celsius printre ele - ați putea argumenta că mai este de făcut. Și asta face ca cele patru angajamente cerute firmelor de inteligență artificială în această scrisoare deschisă să fie aplicabile în special sectorului activelor digitale.

Există o solicitare ca companiile de top de inteligență artificială să se abțină de la aplicarea clauzelor care interzic criticile de la servirea angajaților îngrijorați de riscurile emergente - și să fie introduse proceduri anonime, astfel încât preocupările să poată fi transmise consiliilor de administrație, autorităților de reglementare și experților. Unele dintre cele mai mari controverse ale cripto-ului ar fi putut fi evitate dacă ar fi existat garanții similare.

Și, pe lângă faptul că îmbrățișează o cultură a criticii deschise, există un apel către liderii din AI să jură că nu vor riposta împotriva lucrătorilor care publică informații confidențiale după ce au epuizat toate celelalte posibilități de a escalada o problemă.

Nu este clar cât de mult va mișca această scrisoare deschisă acul în încercarea de a reglementa AI. Și este ceva de spus despre transparența inerentă a tehnologiei blockchain, în care fluxul de fonduri - și înregistrările tranzacțiilor - pot fi monitorizate în timp real. Modelele de limbaj mari, construite de obicei în spatele ușilor închise, sunt mult mai opace prin comparație.

Dar consecințele eșecului de a acționa și potențialele daune cu care se confruntă consumatorii de zi cu zi sunt la fel de grave în ambele industrii. Prea mulți investitori cripto și-au pierdut economiile din viața lor pentru că nu au fost informați în mod adecvat cu privire la riscuri - cu o lipsă de coordonare între autoritățile internaționale de reglementare pentru a preveni ca actorii răi offshore să rămână necontrolați. Și pe măsură ce AI devine mai inteligentă și mai intuitivă pentru utilizator cu fiecare zi care trece, acum și mijloacele de existență a milioane de oameni muncitori ar putea fi puse în pericol.

S-ar putea să vă placă și: Kraken și Binance au dat în judecată pentru 13 miliarde de dolari. De ce?