Se pare că guvernul Regatului Unit nu listează utilizarea sistemelor AI în registrele obligatorii, ridicând îngrijorări cu privire la problemele de transparență.
Potrivit The Guardian, secretarul pentru Tehnologie a recunoscut de atunci că departamentele nu sunt transparente în ceea ce privește utilizarea AI și a algoritmilor, în ciuda faptului că diferitele departamente guvernamentale le folosesc în diverse scopuri.
Departamentele guvernamentale din Marea Britanie „zboară orb” despre utilizarea AI
Articolul The Guardian dezvăluie că niciun departament nu a enumerat utilizarea AI, deoarece guvernul a indicat că va deveni obligatorie. Acest lucru a stârnit îngrijorarea că sectorul public „zboară orb”.
Acest lucru vine în condițiile în care departamentele guvernamentale din Regatul Unit folosesc deja AI, de exemplu, pentru a informa deciziile cu privire la orice, de la plățile de beneficii până la aplicarea legii în materie de imigrare. Potrivit The Guardian, unele înregistrări arată că organismele publice au atribuit contracte pentru servicii algoritmice AI.
De exemplu, organul de achiziții al poliției a încheiat recent un contract pentru recunoașterea facială în valoare de 20 de milioane de dolari, ridicând și mai mult îngrijorări cu privire la „supravegherea biometrică în masă”.
Cu toate acestea, doar nouă sisteme algoritmice au fost depuse unui registru public, fără niciunul dintre numărul tot mai mare de programe AI utilizate în sistemul de bunăstare de către Ministerul de Interne sau de către poliție. În februarie, guvernul Regatului Unit a anunțat că utilizarea registrelor AI va fi acum o „cerință pentru toate departamentele guvernamentale”.
Întrebat despre lipsa de transparență, secretarul de stat pentru Știință și Tehnologie Peter Kyle a recunoscut că sectorul public „nu a luat în serios nevoia de a fi transparent în modul în care guvernul folosește algoritmi”.
„Accept că, dacă guvernul folosește algoritmi în numele publicului, publicul are dreptul să știe.”
Kyle.
„Publicul trebuie să simtă că algoritmii sunt acolo pentru a-i servi și nu invers. Singura modalitate de a face asta este să fii transparent cu privire la utilizarea lor”, a adăugat Kyle.
Guvernul Marii Britanii a ignorat avertismentele
Potrivit articolului The Guardian, experții au avertizat cu privire la pericolele AI dacă este adoptată necritic, cu exemple recente de sisteme IT care nu funcționează conform intenției, inclusiv software-ul Horizon al Oficiului Poștal.
Utilizarea tehnologiei AI în Whitehall se întinde de la sistemul Copilot de la Microsoft la verificări automate de fraudă și erori în sistemul de beneficii. Un alt anunț recent de contract AI al Departamentului de Muncă și Pensii (DWP) a descris „o creștere a interesului în cadrul DWP, care o oglindește pe cea a guvernului și a societății în general”.
În afară de poliție, Ministerul de Interne folosește și un sistem de aplicare a legii în materie de imigrație activat de AI. Acest sistem, pe care criticii îl numesc „robo-lucrător de caz”, este implicat în formarea deciziilor, inclusiv în întoarcerea oamenilor în țările lor de origine.
Cu toate acestea, guvernul l-a descris ca fiind un „bazat pe reguli”, spre deosebire de sistemul AI, deoarece nu implică învățarea automată din date. Potrivit guvernului, acest lucru aduce eficiențe, deși un om rămâne responsabil pentru fiecare decizie.
NHS England are, de asemenea, un contract de 330 de milioane de lire sterline cu Palantir pentru a construi o nouă platformă de date uriașă, care ridică și mai mult îngrijorarea cu privire la confidențialitatea pacienților. Palantir a spus că pacienții păstrează controlul asupra datelor.
Un grup de campanie pentru drepturile de confidențialitate Big Brother Watch a subliniat că apariția contractului de recunoaștere facială a poliției, în ciuda avertismentului deputaților cu privire la lipsa unei legislații care să-l reglementeze, a arătat lipsa de transparență a guvernului cu privire la utilizarea tehnologiei AI.
„Utilizarea secretă a inteligenței artificiale și a algoritmilor pentru a avea un impact asupra vieții oamenilor pune în pericol drepturile tuturor datelor”, a spus Madeleine Stone, director de advocacy.
„Departamentele guvernamentale trebuie să fie deschise și sincere cu privire la modul în care folosesc această tehnologie.”
Piatră.
Director asociat la organismul de cercetare pentru date și inteligență artificială, Imogen Parker și-a exprimat, de asemenea, îngrijorarea cu privire la lipsa de transparență.
„Lipsa transparenței nu înseamnă doar menținerea publicului în întuneric, ci înseamnă, de asemenea, că sectorul public zboară orb în adoptarea AI.”
Parker.
„Eșecul de a publica înregistrările de transparență algoritmică limitează capacitatea sectorului public de a determina dacă aceste instrumente funcționează, de a învăța din ceea ce nu funcționează și de a monitoriza diferitele impacturi sociale ale acestor instrumente”, a adăugat Parker.
De la zero la Web3 Pro: planul tău de lansare a carierei de 90 de zile