Explozia inteligenței artificiale (AI) umple lumea noastră cu vise idealiste sau predicții apocaliptice, totuși niciuna nu surprinde adevărata amenințare.
Nu ne confruntăm cu o „mare rebeliune a roboților” în care AIs sau roboții să organizeze o preluare ostilă. Uită de scenele din filmele The Terminator sau The Matrix - asta nu este pe ordinea de zi. Tehnologia pentru ca AIs să cucerească lumea nu există.
AI poate excela în sarcini specifice, cum ar fi plierea proteinelor sau jucatul șah, dar nu este capabilă să construiască armate sau să conducă națiuni.
Totuși, această lipsă a unei rebeliuni a roboților nu înseamnă că suntem în siguranță. AI se infiltrează în tăcere în viețile noastre prin mijloace mai puțin dramatice, dar la fel de puternice: birocrația digitală.
Adevărata pericol nu sunt roboții ucigași. Este infiltrarea AI în deciziile care controlează viața noastră de zi cu zi. Oamenii au evoluat să se teamă de amenințări tangibile. Gândește-te la prădători mari, precum leii și rechinii.
Dar suntem mai puțin pregătiți să observăm amenințările provenite din documente, acte sau birocrație. Birocrația însăși este o invenție relativ nouă, avându-și originea acum 5.000 de ani cu crearea scrisului.
Înainte de a scrie, proprietatea, de exemplu, depindea de ceea ce convenea comunității. Dacă „dețineai” un teren, era pentru că vecinii tăi respectau acest lucru. Nu erau necesare documente.
De la tablete de lut la birocrați digitali
Totul s-a schimbat când oamenii au început să folosească tablete de lut și înregistrări. Documentele scrise însemnau că drepturile de proprietate nu mai erau despre consensul comunității, ci despre înregistrări oficiale. Mesopotamienii antici transformau bucăți de lut în simboluri oficiale de proprietate, răsturnând ideea de proprietate.
O decizie judecătorească ar putea fi bazată pe o tabletă de lut care spune că dețineai un teren, chiar dacă comunitatea nu era de acord. Avansând până în zilele noastre, sistemele noastre sunt încă construite pe principii similare, doar că acum folosim cipuri de siliciu și înregistrări digitale în loc de lut.
Această schimbare a transformat structurile de putere. Proprietatea a devenit ceva ce putea fi vândut și tranzacționat fără o aprobată din partea comunității locale. Au apărut birocrații, făcând posibilă colectarea impozitelor, finanțarea militară și guvernul central.
Birocrații au devenit jucători esențiali în aceste sisteme, folosind înregistrări, formulare și ștampile pentru a gestiona armate, a aloca resurse și chiar a controla legile. Aceste sisteme birocratice au dat naștere statelor centralizate cu un control extins asupra populațiilor lor, un control care acum se mută către AI.
AI nu are nevoie să ridice o armată de roboți; trebuie doar să stăpânească sistemele birocratice. În cadrul acestor structuri, AI poate lua decizii mai influente decât orice om, așa cum se vede astăzi. AIs decid deja dacă obținem împrumuturi, oferte de muncă, admitere la colegii și chiar diagnostice medicale.
Imaginează-ți bancherii AI determinând eligibilitatea pentru credit, judecătorii AI decidând cazuri în instanță sau AIs militari calculând ținte de atac. AI nu are nevoie de o rebeliune a roboților. Puterea birocratică pe care o moștenește este deja imensă.
AI în rețelele sociale și influența publică
Algoritmii rețelelor sociale, deși primitivi, exercită deja o putere masivă. Algoritmii AI, în special cei de la Facebook, X (fost Twitter), YouTube și TikTok, sunt concepuți cu un singur scop în minte: implicarea utilizatorului. Cu cât oamenii petrec mai mult timp pe aceste platforme, cu atât mai mulți bani se îndreaptă către corporații.
Prin încercări și erori cu miliarde de utilizatori, acești algoritmi au descoperit că declanșarea emoțiilor precum lăcomia, furia și frica crește implicarea. Când apasă aceste butoane emoționale, îi țin pe utilizatori captivați.
Acești algoritmi nu s-au oprit la optimizarea timpului petrecut online. Au mers mai departe, descoperind că conținutul care provoacă emoții intense crește implicarea utilizatorilor. Această descoperire a dus la răspândirea teoriilor conspirației, dezinformării și diviziunilor sociale.
Lumea de astăzi este inundată de indignare digitală, panică și polarizare, datorită algoritmilor care prioritizează clicurile în detrimentul coeziunii. Prin exploatarea declanșatoarelor emoționale, algoritmii rețelelor sociale au alimentat epidemia de teorii ale conspirației și știri false de astăzi.
Acești „decidenți” algoritmici nu sunt în mod inerent malefici. Dimpotrivă, sunt optimizați pentru a-și îndeplini rolurile eficient. Totuși, deciziile lor lipsesc de intuiția sau contextul uman pe care ne așteptăm de obicei în domenii atât de importante.
AI ar putea face judecăți mai rapide sau mai consistente, dar dacă ceva merge prost, rezultatele pot fi dezastruoase. Acest risc potențial a devenit deja vizibil în influența rețelelor sociale asupra societății, servind ca un avertisment pentru unde ar putea conduce puterea necontrolată a AI.
Biden stabilește reguli pentru AI pentru Pentagon și agențiile de informații
Președintele Joe Biden a anunțat un memorandum de securitate națională cu reguli noi pentru utilizarea AI în securitatea națională, prevenind Pentagonul și agențiile de informații să folosească AI în moduri care contravin valorilor democratice.
Aceasta este prima directivă care ghidează rolul AI în securitatea națională. Noile reguli vor încuraja experimentarea AI, asigurând totodată că organismele guvernamentale nu folosesc AI pentru a încălca drepturi precum libertatea de exprimare sau a submina controalele nucleare.
„Memorandumul nostru stabilește prima structură guvernamentală de gestionare a riscurilor AI”, a declarat consilierul pentru securitate națională Jake Sullivan. El a conturat obiectivele de a evita prejudecățile, de a menține responsabilitatea și de a asigura supravegherea umană a AI în roluri sensibile.
Deși nu sunt obligatorii din punct de vedere legal, regulile acoperă aplicațiile de securitate națională precum securitatea cibernetică, contra-informațiile și logistica în operațiunile militare. Biden a emis, de asemenea, controale la export anul trecut, încetinind avansurile AI ale Chinei prin restricționarea accesului la tehnologie.
Sub direcția aceasta, Institutul de Securitate AI din Washington va fi responsabil pentru inspectarea instrumentelor AI pentru a preveni utilizarea abuzivă înainte de lansare, comunitatea de informații din SUA prioritizând monitorizarea avansurilor AI în alte țări.