Secondo quanto riferito, il governo del Regno Unito non sta inserendo l'uso dei sistemi di intelligenza artificiale nei registri obbligatori, sollevando preoccupazioni circa i problemi di trasparenza.
Secondo quanto riportato dal The Guardian, il Segretario alla Tecnologia ha successivamente ammesso che i dipartimenti non sono trasparenti riguardo all'uso dell'intelligenza artificiale e degli algoritmi, nonostante i vari dipartimenti governativi li utilizzino per vari scopi.
I dipartimenti governativi del Regno Unito “volano alla cieca” riguardo al loro utilizzo dell’intelligenza artificiale
L'articolo del Guardian rivela che nessun dipartimento ha elencato l'uso dell'IA da quando il governo ha indicato che sarebbe diventato obbligatorio. Ciò ha sollevato preoccupazioni sul fatto che il settore pubblico stia "volando alla cieca".
Ciò avviene mentre i dipartimenti governativi nel Regno Unito stanno già utilizzando l'IA, ad esempio, per informare le decisioni su tutto, dai pagamenti dei sussidi all'applicazione delle leggi sull'immigrazione. Secondo The Guardian, alcuni documenti mostrano che gli enti pubblici hanno assegnato contratti per servizi algoritmici di IA.
Ad esempio, l’ente di approvvigionamento della polizia ha recentemente messo a punto un contratto per il riconoscimento facciale del valore di 20 milioni di dollari, sollevando ulteriormente le preoccupazioni sulla “sorveglianza biometrica di massa”.
Tuttavia, solo nove sistemi algoritmici sono stati sottoposti a un registro pubblico, senza nessuno dei crescenti programmi di intelligenza artificiale utilizzati nel sistema di welfare dall'Home Office o dalla polizia. A febbraio, il governo del Regno Unito ha annunciato che l'uso dei registri di intelligenza artificiale sarebbe ora un "requisito per tutti i dipartimenti governativi".
Interrogato sulla mancanza di trasparenza, il Segretario di Stato per la scienza e la tecnologia Peter Kyle ha ammesso che il settore pubblico “non ha preso abbastanza sul serio la necessità di essere trasparente nel modo in cui il governo utilizza gli algoritmi”.
"Accetto che se il governo utilizza algoritmi per conto del pubblico, il pubblico ha il diritto di saperlo".
Ciao.
"Il pubblico deve sentire che gli algoritmi sono lì per servire loro e non il contrario. L'unico modo per farlo è essere trasparenti sul loro utilizzo", ha aggiunto Kyle.
Il governo del Regno Unito ha ignorato gli avvertimenti
Secondo l’articolo del The Guardian, gli esperti hanno messo in guardia sui pericoli dell’intelligenza artificiale se adottata senza spirito critico, con recenti esempi di sistemi IT che non funzionano come previsto, tra cui il software Horizon delle Poste.
L'uso della tecnologia AI a Whitehall spazia dal sistema Copilot di Microsoft ai controlli automatici di frode ed errori nel sistema di benefit. Un altro recente avviso di contratto AI del Department of Work and Pensions (DWP) ha descritto "un proliferare di interesse all'interno del DWP, che rispecchia quello del governo e della società in senso più ampio".
Oltre alla polizia, l'Home Office utilizza anche un sistema di controllo dell'immigrazione basato sull'intelligenza artificiale. Questo sistema, che i critici chiamano "robo-caseworker", è coinvolto nella definizione di decisioni, tra cui il rimpatrio delle persone nei loro paesi d'origine.
Il governo lo ha tuttavia descritto come un sistema "basato su regole" in contrapposizione all'intelligenza artificiale perché non prevede l'apprendimento automatico dai dati. Secondo il governo, ciò comporta efficienze, sebbene un essere umano rimanga responsabile di ogni decisione.
Si dice che anche l'NHS England abbia un contratto da 330 milioni di sterline con Palantir per costruire un'enorme nuova piattaforma dati, sollevando ulteriormente le preoccupazioni sulla privacy dei pazienti. Palantir ha affermato che i pazienti mantengono il controllo dei dati.
Un gruppo di campagna per i diritti alla privacy, Big Brother Watch, ha evidenziato che l’emergere del contratto di riconoscimento facciale della polizia, nonostante i parlamentari avessero avvertito della mancanza di una legislazione per regolamentarlo, ha mostrato la mancanza di trasparenza del governo sull’uso della tecnologia AI.
"L'uso segreto dell'intelligenza artificiale e degli algoritmi per influenzare la vita delle persone mette a rischio i diritti sui dati di tutti", ha affermato Madeleine Stone, responsabile della difesa dei diritti.
"I dipartimenti governativi devono essere aperti e onesti su come utilizzano questa tecnologia".
Calcolo.
Anche Imogen Parker, direttrice associata dell'organismo di ricerca sui dati e sull'intelligenza artificiale, ha espresso preoccupazione per la mancanza di trasparenza.
“La mancanza di trasparenza non solo tiene il pubblico all’oscuro, ma significa anche che il settore pubblico sta andando alla cieca nell’adozione dell’intelligenza artificiale”.
Parco.
“La mancata pubblicazione dei registri di trasparenza algoritmica limita la capacità del settore pubblico di determinare se questi strumenti funzionano, imparare da ciò che non funziona e monitorare i diversi impatti sociali di questi strumenti”, ha aggiunto Parker.
Da zero a Web3 Pro: il tuo piano di lancio della carriera di 90 giorni