Lunedì di questa settimana si è tenuta la prima riunione del comitato consultivo sull’intelligenza artificiale del Dipartimento per la sicurezza interna. Il consiglio mira a migliorare la gestione dell’implementazione della tecnologia di intelligenza artificiale e a difendere la tecnologia dalle minacce esterne.

Affrontare i pregiudizi dell’intelligenza artificiale e i rischi per la sicurezza

Durante una sessione di domande e risposte con i giornalisti alla conferenza RSA e un discorso programmatico con i dipendenti, Mayorkas ha discusso della sicurezza dell’intelligenza artificiale e dei risultati della discussione della prima riunione del consiglio. I membri hanno parlato della questione della sicurezza dell’intelligenza artificiale nelle strutture essenziali. Hanno anche toccato le implicazioni sui diritti umani dell’implementazione dell’intelligenza artificiale nei compiti del DHS, e alcuni di essi ne hanno evidenziato il potenziale per essere utilizzato come estensione del pregiudizio implicito esistente.

I sistemi di intelligenza artificiale che funzionano con colorismo e sessismo sono un paio di problemi di vecchia data che gli esperti e il governo federale continuano ad affrontare perché i leader di pensiero e il governo sono minoranze che non si preoccupano di testare i prodotti per vedere se i sistemi funzionano con donne e persone di colore. Inoltre, la Casa Bianca e il Dipartimento di Giustizia hanno avviato progetti volti a eliminare i pregiudizi portati dai sistemi di intelligenza artificiale.

È stato reso noto il consiglio del DHS, che si riunirà trimestralmente. Comprende persone come il CEO di OpenAI Sam Altman, funzionari governativi attivi nel campo dell’intelligenza artificiale e proprietari di infrastrutture critiche e produttori di tecnologia. Mayorkas ha affermato che ci sono più di 20 usi dell’IA, dal concentrarsi sulle richieste di indennizzo assicurativo per i danni da uragano al recente aiuto alla Federal Emergency Management Agency (FEMA) nella formazione degli agenti che si occupano dei casi di rifugiati.

Cooperazione globale contro le minacce dell’intelligenza artificiale

I funzionari del DHS hanno evidenziato nei loro rapporti di aver creato un portale in cui sono elencati i luoghi in cui la tecnologia dell'intelligenza artificiale è stata implementata o annullata a causa di preoccupazioni disparate tra le varie parti interessate. I funzionari del DHS hanno sottolineato che il dipartimento sta cercando di espandere la propria forza lavoro nelle aree legate all’intelligenza artificiale e che sono già state ricevute 3000 domande per ruoli lavorativi in ​​questo campo.

Mayorkas ha condiviso che il consiglio ha avviato il processo di elaborazione di linee guida e piani per prevenire possibili minacce all'intelligenza artificiale e ridurre i rischi di conseguenze indesiderabili durante l'applicazione dell'intelligenza artificiale. Il lavoro supplementare a bordo era già soddisfacente. Anche il fatto che questa sia la composizione dei leader internazionali dell’IA è fondamentale perché funzionerà sul danno legislativo con altri paesi.

Tuttavia, la difesa dei sistemi di intelligenza artificiale non sarà possibile solo con la partecipazione di attori globali. Uno scenario del genere richiede che il partenariato costruisca un solido meccanismo di difesa.