Prima întâlnire a Comitetului consultativ AI al Departamentului pentru Securitate Internă a avut loc luni săptămâna aceasta. Consiliul își propune să îmbunătățească gestionarea implementării tehnologiei de inteligență artificială și să apere tehnologia împotriva amenințărilor externe.
Abordarea părtinirilor AI și a riscurilor de securitate
În timpul unei sesiuni de întrebări și răspunsuri cu reporterii la conferința RSA și a unui discurs principal cu angajații, Mayorkas a discutat despre securitatea inteligenței artificiale și rezultatele discuțiilor primei reuniuni a consiliului de administrație. Membrii vorbeau despre problema securității IA în unitățile esențiale. Ei au abordat, de asemenea, implicațiile privind drepturile omului ale implementării AI în sarcinile DHS, câteva subliniind potențialul său de a fi utilizat ca o extensie a părtinirii implicite existente.
Sistemele AI care lucrează în colorism și sexism sunt câteva experți de lungă durată în probleme și guvernul federal continuă să abordeze, deoarece liderii de gândire și guvernul sunt minorități care nu se obosesc să testeze produsele pentru a vedea dacă sistemele funcționează cu femei și oameni culoare. În plus, Casa Albă și Departamentul de Justiție au început și proiecte menite să elimine părtinirile aduse de sistemele AI.
Consiliul DHS, care se va reuni trimestrial, a fost dezvăluit. Include oameni precum CEO-ul OpenAI, Sam Altman, oficiali guvernamentali activi în AI și proprietari de infrastructuri critice și producători de tehnologie. Mayorkas a declarat că există mai mult de 20 de utilizări ale IA, de la concentrarea asupra cererilor de asigurare pentru daune cauzate de uragan până la a ajuta recent Agenția Federală de Management al Urgențelor (FEMA) să formeze agenți de caz pentru refugiați.
Cooperare globală împotriva amenințărilor AI
Oficialii DHS au subliniat în rapoartele lor că au creat o listă de portal în care tehnologia AI a fost implementată sau anulată din cauza preocupărilor disparate ale diferitelor părți interesate. Oficialii DHS au subliniat că departamentul urmărește să-și extindă forța de muncă în domeniile legate de IA și au fost deja primite 3000 de cereri pentru posturi în acest domeniu.
Mayorkas a spus că consiliul de administrație a inițiat procesul de elaborare a liniilor de strategie și planuri pentru prevenirea posibilelor amenințări la adresa IA și reducerea riscurilor de consecințe nedorite în timpul aplicării AI. Activitatea suplimentară la bord a fost deja satisfăcătoare. Faptul că aceasta este alcătuirea liderilor internaționali de inteligență artificială este, de asemenea, esențial, deoarece va lucra la daune legislative cu alte țări.
Cu toate acestea, apărarea sistemelor AI nu va fi realizată doar prin participarea unor jucători globali. Un astfel de scenariu necesită parteneriatul pentru a construi un mecanism de apărare solid.