Guvernul Marii Britanii a anunțat planurile de a deschide primul birou de peste mări pentru Institutul său de Siguranță AI din Statele Unite în această vară.
Citește și: Rolul acordului privind siguranța IA din Regatul Unit și SUA în evoluția tehnologiei
Într-o declarație publicată luni, secretarul pentru Știință și Tehnologie al Regatului Unit, Michelle Donelan, a declarat că noul birou din SUA va fi situat în San Francisco. Orașul găzduiește unele dintre cele mai mari companii AI, inclusiv OpenAI, Anthropic și Inflection AI.
Regatul Unit caută să consolideze parteneriatul cu SUA privind siguranța AI
Biroul din SUA va căuta să recruteze o echipă de personal tehnic condusă de un director de cercetare, pe măsură ce va începe să funcționeze la sfârșitul acestui an. Sediul Institutului din Londra are în prezent o echipă de peste 30 de personal tehnic.
Secretarul pentru tehnologie a spus că extinderea Institutului reprezintă conducerea britanică în AI și va stabili o colaborare strânsă cu guvernul SUA.
Este un moment esențial în capacitatea Regatului Unit de a studia atât riscurile, cât și potențialul AI dintr-o lentilă globală, consolidându-ne parteneriatul cu SUA și deschizând calea pentru ca alte țări să utilizeze expertiza noastră pe măsură ce continuăm să conducem lumea în domeniul AI. Siguranță.
Michelle Donelan, secretarul Regatului Unit pentru Știință și Tehnologie.
Donelan spune că institutul a crescut de la „putere la forță”
Guvernul Regatului Unit a introdus Institutul de Siguranță AI în noiembrie 2023. Acesta a spus că obiectivul este de a „minimiza surprizele pentru Regatul Unit și pentru umanitate din progresele rapide și neașteptate ale AI”.
Citește și: Guvernul Regatului Unit anunță înființarea AI Safety Institute
Institutul se concentrează în primul rând pe evaluarea sistemelor AI „de frontieră” din perspectiva securității naționale. Prin această măsură, guvernul Regatului Unit a declarat că va putea dezvolta politici eficiente și răspunsuri de reglementare la aplicațiile AI implementate în jurisdicția sa.
De când prim-ministrul și cu mine am înființat Institutul pentru Siguranță AI, acesta a crescut din putere în putere și în puțin peste un an.
Michelle Donelan, secretarul Regatului Unit pentru Știință și Tehnologie.
Institutul publică rezultatul testelor sale de model
Institutul de Siguranță AI din Regatul Unit este prima organizație susținută de guvern care a publicat rezultatele testelor sale de siguranță pentru modelele AI. Institutul a testat cinci modele de limbi mari disponibile public, deși nu specifică numele.
Siguranța AI este încă un domeniu foarte tânăr și în curs de dezvoltare. […] Ambiția noastră este să continuăm să împingem granița acestui domeniu prin dezvoltarea de evaluări de ultimă generație, cu accent pe riscurile legate de securitatea națională.
Ian Hogarth, președintele AI Safety Institute din Regatul Unit.
A spus că mai multe modele și-au finalizat provocările de securitate cibernetică. Cu toate acestea, toți s-au dovedit extrem de vulnerabili la „jailbreak-uri” de bază. Unele modele au produs rezultate dăunătoare chiar și atunci când nu au existat încercări deliberate de a ocoli garanțiile.
Reportaj Cryptopolitan de Ibiam Wayas