UK Moves to Establish Global Standard for AI Security With Draft Code

Cryptopolitan · 2024-05-15T16:33:07.000Z

The UK government is seeking the people’s opinions regarding a brand-new set of voluntary rules for AI cybersecurity. The ‘AI Cyber Security Code of Practice’ will consist of suggestions developers can use to protect their AI products and services from hacking, sabotage, or tampering. At the CYBERUK conference, technology minister Saqib Bhatti said the new guidelines would be the basis for a global standard for AI cybersecurity and enable British businesses to be safe from cyber-attacks. Securing AI systems Bhatti said that to make the digital economy a powerful force for the country; we must provide a secure environment for it to grow and develop. This is exactly what they are doing with these new measures, in which the AI models from the design phase will be resilient to adversaries. The DSIT and the NCSC have created a code of practice for developing cyber-secure AI systems based on the NCSC guidelines on the secure AI system published last year. The draft AI Cyber Security Code of Practice publication comes at a time of mixed news for the UK cybersecurity scene. According to government figures, the sector expanded by 13% last year, but half of the businesses and almost a third of the charities were the targets of breaches in the same period. The rising demand for generative AI among businesses will probably create new ways for cybercriminals to launch attacks. The GenAI systems are the ones most affected by data poisoning and model theft, says Kevin Curren, a professor of cybersecurity at Ulster University and a senior member of the Institute of Electrical and Electronics Engineers. If the companies cannot prove how the GenAI systems work and how they have reached their conclusions, accountability becomes a problem, and other potential risks cannot be found. Countering new cyber threats The new AI cybersecurity guidelines will give businesses a list of the best practices and recommendations on handling these challenges, said the NCSC’s chief executive, Felicity Oswald. The new codes of practice will assist them in creating the cyber security industry to design AI models and software so that they are secure and resilient to attacks by malicious people. Oswald said that establishing standards for our security will strengthen collective resilience, and he praised the organizations for following these requirements to keep the UK online safe. The call for views will operate until companies dealing with AI applications can begin taking steps to strengthen their security, as Curren stated. Organizations should communicate with data protection experts and monitor the changes in the regulatory practices, he said, which not only helps avoid legal problems but also aids in maintaining consumer trust by providing ethical AI practices and data integrity. Other best practices are the ones regarding the data use, which should be minimized and made anonymous, the data governance policies should be established, the data environments should be secured, the staff should be advised regarding the current security protocols, the impact, and the audits should be performed all the time. The day’s call for opinions on both codes of practice should be seen in the context of the Conservative government’s whole work on AI safety, which the Minister for AI and Intellectual Property, Viscount Camrose, pointed out. The policies of specific schemes from the opposition Labour Party are still not specified, although the Green Paper on technology policy, promised last year, is missing. Nevertheless, shadow DSIT secretary Peter Kyle promised today that the party will unveil its views on AI in the coming weeks amid a policy push ahead of the general election.

Il governo del Regno Unito sta cercando l’opinione della gente riguardo a una nuova serie di regole volontarie per la sicurezza informatica dell’IA. Il “Codice di condotta sulla sicurezza informatica dell’intelligenza artificiale” consisterà in suggerimenti che gli sviluppatori possono utilizzare per proteggere i propri prodotti e servizi di intelligenza artificiale da attacchi di pirateria informatica, sabotaggio o manomissione. Alla conferenza CYBERUK, il ministro della tecnologia Saqib Bhatti ha affermato che le nuove linee guida costituiranno la base per uno standard globale per la sicurezza informatica dell’intelligenza artificiale e consentiranno alle aziende britanniche di essere al sicuro dagli attacchi informatici.
Protezione dei sistemi di intelligenza artificiale
Bhatti ha affermato che per rendere l'economia digitale una forza potente per il Paese; dobbiamo fornire un ambiente sicuro affinché possa crescere e svilupparsi. Questo è esattamente ciò che stanno facendo con queste nuove misure, in cui i modelli di intelligenza artificiale della fase di progettazione saranno resistenti agli avversari. Il DSIT e l’NCSC hanno creato un codice di condotta per lo sviluppo di sistemi di IA cyber-sicuri basato sulle linee guida NCSC sul sistema di IA sicuro pubblicate lo scorso anno. 
La bozza di pubblicazione del Codice di condotta sulla sicurezza informatica dell’intelligenza artificiale arriva in un momento di notizie contrastanti per la scena della sicurezza informatica del Regno Unito. Secondo i dati del governo, lo scorso anno il settore è cresciuto del 13%, ma nello stesso periodo la metà delle imprese e quasi un terzo degli enti di beneficenza sono stati oggetto di violazioni.
La crescente domanda di IA generativa tra le aziende creerà probabilmente nuove modalità con cui i criminali informatici potranno lanciare attacchi. I sistemi GenAI sono quelli più colpiti dall’avvelenamento dei dati e dal furto di modelli, afferma Kevin Curren, professore di sicurezza informatica all’Università di Ulster e membro senior dell’Institute of Electrical and Electronics Engineers. Se le aziende non riescono a dimostrare come funzionano i sistemi GenAI e come sono arrivate alle loro conclusioni, la responsabilità diventa un problema e non è possibile individuare altri rischi potenziali.
Contrastare le nuove minacce informatiche
Le nuove linee guida sulla sicurezza informatica dell’IA forniranno alle aziende un elenco delle migliori pratiche e raccomandazioni per gestire queste sfide, ha affermato l’amministratore delegato dell’NCSC, Felicity Oswald. I nuovi codici di condotta li aiuteranno a creare il settore della sicurezza informatica per progettare modelli e software di intelligenza artificiale in modo che siano sicuri e resistenti agli attacchi di malintenzionati. Oswald ha affermato che stabilire standard per la nostra sicurezza rafforzerà la resilienza collettiva e ha elogiato le organizzazioni per aver seguito questi requisiti per mantenere il Regno Unito online sicuro. L’invito a presentare opinioni durerà fino a quando le aziende che si occupano di applicazioni di intelligenza artificiale non potranno iniziare ad adottare misure per rafforzare la propria sicurezza, come ha affermato Curren.
Le organizzazioni dovrebbero comunicare con esperti di protezione dei dati e monitorare i cambiamenti nelle pratiche normative, ha affermato, il che non solo aiuta a evitare problemi legali ma aiuta anche a mantenere la fiducia dei consumatori fornendo pratiche etiche di intelligenza artificiale e integrità dei dati. Altre buone pratiche sono quelle riguardanti l’uso dei dati, che dovrebbero essere ridotti al minimo e resi anonimi, dovrebbero essere stabilite politiche di governance dei dati, gli ambienti dei dati dovrebbero essere protetti, il personale dovrebbe essere informato riguardo agli attuali protocolli di sicurezza, all’impatto e al gli audit dovrebbero essere eseguiti continuamente. 
La richiesta di parere di oggi su entrambi i codici di condotta dovrebbe essere vista nel contesto dell’intero lavoro del governo conservatore sulla sicurezza dell’intelligenza artificiale, come ha sottolineato il ministro per l’intelligenza artificiale e la proprietà intellettuale, visconte Camrose. Le politiche dei programmi specifici del partito laburista d'opposizione non sono ancora specificate, anche se manca il Libro verde sulla politica tecnologica, promesso l'anno scorso. Tuttavia, il segretario ombra del DSIT Peter Kyle ha promesso oggi che il partito svelerà le sue opinioni sull’intelligenza artificiale nelle prossime settimane nel contesto di una spinta politica in vista delle elezioni generali.

Il Regno Unito si propone di stabilire uno standard globale per la sicurezza dell’intelligenza artificiale con una bozza di codice

Scopri di più dal Creator

Ultime notizie