El gobierno del Reino Unido está buscando la opinión de la gente sobre un nuevo conjunto de reglas voluntarias para la ciberseguridad de la IA. El "Código de prácticas de seguridad cibernética de la IA" consistirá en sugerencias que los desarrolladores pueden utilizar para proteger sus productos y servicios de IA contra piratería, sabotaje o manipulación. En la conferencia CYBERUK, el ministro de tecnología, Saqib Bhatti, dijo que las nuevas directrices serían la base para un estándar global para la ciberseguridad de la IA y permitirían a las empresas británicas estar a salvo de los ciberataques.
Asegurar los sistemas de IA
Bhatti dijo que para hacer de la economía digital una fuerza poderosa para el país; debemos proporcionarle un entorno seguro para que crezca y se desarrolle. Esto es exactamente lo que están haciendo con estas nuevas medidas, en las que los modelos de IA desde la fase de diseño serán resistentes a los adversarios. El DSIT y el NCSC han creado un código de práctica para desarrollar sistemas de IA ciberseguros basado en las directrices del NCSC sobre sistemas de IA seguros publicadas el año pasado.
La publicación del borrador del Código de prácticas de seguridad cibernética de IA llega en un momento de noticias mixtas para la escena de ciberseguridad del Reino Unido. Según cifras del gobierno, el sector creció un 13% el año pasado, pero la mitad de las empresas y casi un tercio de las organizaciones benéficas fueron objeto de infracciones en el mismo período.
La creciente demanda de IA generativa entre las empresas probablemente creará nuevas formas para que los ciberdelincuentes lancen ataques. Los sistemas GenAI son los más afectados por el envenenamiento de datos y el robo de modelos, afirma Kevin Curren, profesor de ciberseguridad en la Universidad de Ulster y miembro senior del Instituto de Ingenieros Eléctricos y Electrónicos. Si las empresas no pueden demostrar cómo funcionan los sistemas GenAI y cómo llegaron a sus conclusiones, la rendición de cuentas se convierte en un problema y no se pueden encontrar otros riesgos potenciales.
Contrarrestar las nuevas amenazas cibernéticas
Las nuevas pautas de ciberseguridad de la IA brindarán a las empresas una lista de las mejores prácticas y recomendaciones para manejar estos desafíos, dijo la directora ejecutiva del NCSC, Felicity Oswald. Los nuevos códigos de práctica les ayudarán a crear la industria de la seguridad cibernética para diseñar modelos y software de IA que sean seguros y resistentes a los ataques de personas malintencionadas. Oswald dijo que establecer estándares para nuestra seguridad fortalecerá la resiliencia colectiva y elogió a las organizaciones por seguir estos requisitos para mantener seguro al Reino Unido en línea. La convocatoria de opiniones funcionará hasta que las empresas que se ocupan de aplicaciones de IA puedan comenzar a tomar medidas para fortalecer su seguridad, como afirmó Curren.
Las organizaciones deben comunicarse con expertos en protección de datos y monitorear los cambios en las prácticas regulatorias, dijo, lo que no solo ayuda a evitar problemas legales sino que también ayuda a mantener la confianza del consumidor al brindar prácticas éticas de IA e integridad de los datos. Otras mejores prácticas son las relativas al uso de datos, que deben minimizarse y hacerse anónimos, establecer políticas de gobernanza de datos, proteger los entornos de datos, informar al personal sobre los protocolos de seguridad vigentes, el impacto y el impacto. Las auditorías deben realizarse todo el tiempo.
La convocatoria de opiniones del día sobre ambos códigos de prácticas debe verse en el contexto de todo el trabajo del gobierno conservador sobre la seguridad de la IA, como señaló el Ministro de IA y Propiedad Intelectual, el vizconde Camrose. Las políticas de los planes específicos del opositor Partido Laborista aún no están especificadas, aunque falta el Libro Verde sobre política tecnológica, prometido el año pasado. Sin embargo, el secretario en la sombra del DSIT, Peter Kyle, prometió hoy que el partido revelará sus puntos de vista sobre la IA en las próximas semanas en medio de un impulso político antes de las elecciones generales.
