Guvernul Regatului Unit caută opiniile oamenilor cu privire la un set nou-nouț de reguli voluntare pentru securitatea cibernetică AI. „Codul de practică în domeniul securității cibernetice AI” va consta în sugestii pe care dezvoltatorii le pot folosi pentru a-și proteja produsele și serviciile AI de hacking, sabotaj sau manipulare. La conferința CYBERUK, ministrul tehnologiei, Saqib Bhatti, a declarat că noile linii directoare vor sta la baza unui standard global pentru securitatea cibernetică prin inteligență artificială și vor permite companiilor britanice să fie protejate de atacuri cibernetice.

Securizarea sistemelor AI

Bhatti a spus că pentru a face din economia digitală o forță puternică pentru țară; trebuie să oferim un mediu sigur pentru ca acesta să crească și să se dezvolte. Exact asta fac cu aceste noi măsuri, în care modelele AI din faza de proiectare vor fi rezistente la adversari. DSIT și NCSC au creat un cod de practică pentru dezvoltarea sistemelor AI securizate cibernetice bazat pe orientările NCSC privind sistemul AI securizat, publicate anul trecut. 

Proiectul de publicare a Codului de practică în domeniul securității cibernetice AI vine într-un moment de știri mixte pentru scena securității cibernetice din Marea Britanie. Potrivit cifrelor guvernamentale, sectorul s-a extins cu 13% anul trecut, dar jumătate dintre afaceri și aproape o treime dintre organizațiile de caritate au fost ținta încălcărilor în aceeași perioadă.

Cererea tot mai mare de AI generativă în rândul întreprinderilor va crea probabil noi modalități pentru infractorii cibernetici de a lansa atacuri. Sistemele GenAI sunt cele mai afectate de otrăvirea datelor și furtul de modele, spune Kevin Curren, profesor de securitate cibernetică la Universitatea Ulster și membru senior al Institutului de Ingineri Electrici și Electronici. Dacă companiile nu pot dovedi cum funcționează sistemele GenAI și cum au ajuns la concluziile lor, responsabilitatea devine o problemă și alte riscuri potențiale nu pot fi găsite.

Combaterea noilor amenințări cibernetice

Noile linii directoare de securitate cibernetică AI vor oferi companiilor o listă cu cele mai bune practici și recomandări pentru gestionarea acestor provocări, a declarat directorul executiv al NCSC, Felicity Oswald. Noile coduri de practică îi vor ajuta să creeze industria de securitate cibernetică pentru a proiecta modele și software AI, astfel încât să fie siguri și rezistenti la atacurile persoanelor rău intenționate. Oswald a spus că stabilirea standardelor pentru securitatea noastră va întări reziliența colectivă și a lăudat organizațiile pentru că respectă aceste cerințe pentru a menține în siguranță Marea Britanie online. Apelul de opinii va funcționa până când companiile care se ocupă de aplicații AI vor începe să ia măsuri pentru a le consolida securitatea, după cum a declarat Curren.

Organizațiile ar trebui să comunice cu experții în protecția datelor și să monitorizeze schimbările în practicile de reglementare, a spus el, ceea ce nu numai că ajută la evitarea problemelor juridice, dar ajută și la menținerea încrederii consumatorilor prin furnizarea de practici etice AI și integritate a datelor. Alte bune practici sunt cele privind utilizarea datelor, care ar trebui minimizate și anonimizate, trebuie stabilite politicile de guvernare a datelor, mediile de date trebuie securizate, personalul ar trebui sfătuit cu privire la protocoalele de securitate actuale, impactul și auditurile ar trebui efectuate tot timpul. 

Apelul zilei pentru aviz cu privire la ambele coduri de practică ar trebui privit în contextul întregii lucrări a guvernului conservator privind siguranța AI, pe care a subliniat ministrul pentru AI și Proprietate Intelectuală, vicontele Camrose. Politicile schemelor specifice ale Partidului Laburist de opoziție încă nu sunt specificate, deși lipsește Cartea verde privind politica tehnologică, promisă anul trecut. Cu toate acestea, secretarul umbră al DSIT, Peter Kyle, a promis astăzi că partidul își va dezvălui opiniile despre AI în săptămânile următoare, pe fondul unei politici politice înaintea alegerilor generale.