Le gouvernement britannique sollicite l’avis de la population concernant un tout nouvel ensemble de règles volontaires pour la cybersécurité de l’IA. Le « Code de bonnes pratiques en matière de cybersécurité de l’IA » comprendra des suggestions que les développeurs pourront utiliser pour protéger leurs produits et services d’IA contre le piratage, le sabotage ou la falsification. Lors de la conférence CYBERUK, le ministre de la Technologie, Saqib Bhatti, a déclaré que les nouvelles lignes directrices constitueraient la base d'une norme mondiale pour la cybersécurité de l'IA et permettraient aux entreprises britanniques d'être à l'abri des cyberattaques.
Sécuriser les systèmes d'IA
Bhatti a déclaré que pour faire de l'économie numérique une force puissante pour le pays ; nous devons fournir un environnement sûr pour qu’il puisse croître et se développer. C’est exactement ce qu’ils font avec ces nouvelles mesures, dans lesquelles les modèles d’IA dès la phase de conception seront résilients face aux adversaires. Le DSIT et le NCSC ont créé un code de bonnes pratiques pour le développement de systèmes d'IA cyber-sécurisés, basé sur les lignes directrices du NCSC sur le système d'IA sécurisé publiées l'année dernière.
Le projet de publication du Code de bonnes pratiques en matière de cybersécurité de l’IA arrive à un moment où l’actualité est mitigée pour la scène britannique de la cybersécurité. Selon les chiffres du gouvernement, le secteur a connu une croissance de 13 % l'année dernière, mais la moitié des entreprises et près d'un tiers des organisations caritatives ont été la cible de violations au cours de la même période.
La demande croissante d’IA générative parmi les entreprises va probablement créer de nouvelles façons pour les cybercriminels de lancer des attaques. Les systèmes GenAI sont les plus touchés par l'empoisonnement des données et le vol de modèles, explique Kevin Curren, professeur de cybersécurité à l'Université d'Ulster et membre principal de l'Institut des ingénieurs électriciens et électroniques. Si les entreprises ne peuvent pas prouver comment fonctionnent les systèmes GenAI et comment elles sont parvenues à leurs conclusions, la responsabilité devient un problème et d’autres risques potentiels ne peuvent être détectés.
Contrer les nouvelles cybermenaces
Les nouvelles lignes directrices sur la cybersécurité de l’IA donneront aux entreprises une liste des meilleures pratiques et des recommandations pour relever ces défis, a déclaré la directrice générale du NCSC, Felicity Oswald. Les nouveaux codes de bonnes pratiques les aideront à créer une industrie de la cybersécurité pour concevoir des modèles et des logiciels d'IA afin qu'ils soient sécurisés et résistants aux attaques de personnes malveillantes. Oswald a déclaré que l'établissement de normes pour notre sécurité renforcerait la résilience collective, et il a félicité les organisations pour avoir respecté ces exigences afin d'assurer la sécurité en ligne du Royaume-Uni. L’appel à avis sera valable jusqu’à ce que les entreprises qui s’occupent d’applications d’IA puissent commencer à prendre des mesures pour renforcer leur sécurité, comme l’a déclaré Curren.
Les organisations devraient communiquer avec des experts en protection des données et surveiller les changements dans les pratiques réglementaires, a-t-il déclaré, ce qui permet non seulement d'éviter les problèmes juridiques, mais également de maintenir la confiance des consommateurs en fournissant des pratiques éthiques d'IA et l'intégrité des données. D'autres bonnes pratiques sont celles concernant l'utilisation des données, qui doivent être minimisées et rendues anonymes, les politiques de gouvernance des données doivent être établies, les environnements de données doivent être sécurisés, le personnel doit être informé des protocoles de sécurité actuels, de leur impact et des des audits doivent être effectués à tout moment.
L’appel d’opinions d’aujourd’hui sur les deux codes de bonnes pratiques doit être considéré dans le contexte de l’ensemble du travail du gouvernement conservateur sur la sécurité de l’IA, comme l’a souligné le ministre de l’IA et de la Propriété intellectuelle, le vicomte Camrose. Les politiques des projets spécifiques du Parti travailliste d'opposition ne sont toujours pas précisées, bien que le Livre vert sur la politique technologique, promis l'année dernière, soit manquant. Néanmoins, le secrétaire fantôme du DSIT, Peter Kyle, a promis aujourd'hui que le parti dévoilerait son point de vue sur l'IA dans les semaines à venir, dans le cadre d'une poussée politique avant les élections générales.