Según se informa, el gobierno del Reino Unido no incluye su uso de sistemas de inteligencia artificial en los registros obligatorios, lo que genera inquietud sobre cuestiones de transparencia.
Según The Guardian, el Secretario de Tecnología ha admitido desde entonces que los departamentos no son transparentes con respecto al uso de IA y algoritmos a pesar de que varios departamentos gubernamentales los utilizan para diversos fines.
Los departamentos gubernamentales del Reino Unido “actúan a ciegas” sobre el uso de la IA
El artículo de The Guardian revela que ningún departamento ha incluido el uso de IA desde que el gobierno indicó que sería obligatorio. Esto ha suscitado preocupaciones de que el sector público esté “a ciegas”.
Esto ocurre en un momento en que los departamentos gubernamentales del Reino Unido ya están utilizando la IA, por ejemplo, para fundamentar decisiones sobre todo, desde el pago de prestaciones hasta la aplicación de la normativa migratoria. Según The Guardian, algunos registros muestran que los organismos públicos han adjudicado contratos para servicios algorítmicos de IA.
Por ejemplo, el organismo de adquisiciones de la policía presentó recientemente un contrato de reconocimiento facial por valor de 20 millones de dólares, lo que aumenta aún más las preocupaciones sobre la “vigilancia biométrica masiva”.
Sin embargo, sólo nueve sistemas algorítmicos han sido presentados a un registro público, y ninguno de ellos forma parte del creciente número de programas de IA que se utilizan en el sistema de bienestar social por parte del Ministerio del Interior o de la policía. En febrero, el gobierno del Reino Unido anunció que el uso de registros de IA sería ahora un “requisito para todos los departamentos gubernamentales”.
Cuando se le preguntó sobre la falta de transparencia, el secretario de Estado de Ciencia y Tecnología, Peter Kyle, admitió que el sector público “no se ha tomado lo suficientemente en serio la necesidad de ser transparente en la forma en que el gobierno utiliza los algoritmos”.
“Acepto que si el gobierno utiliza algoritmos en nombre del público, el público tiene derecho a saberlo”.
kyle.
“El público necesita sentir que los algoritmos están ahí para servirle a él y no al revés. La única manera de lograrlo es ser transparentes en cuanto a su uso”, añadió Kyle.
El gobierno del Reino Unido ignoró las advertencias
Según el artículo de The Guardian, los expertos advirtieron sobre los peligros de la IA si se adopta de manera acrítica, con ejemplos recientes de sistemas de TI que no funcionan como se esperaba, incluido el software Horizon de la Oficina Postal.
El uso de tecnología de inteligencia artificial en Whitehall abarca desde el sistema Copilot de Microsoft hasta los controles automatizados de fraude y errores en el sistema de prestaciones. Otro anuncio reciente de contrato de inteligencia artificial del Departamento de Trabajo y Pensiones (DWP) describió “un creciente interés dentro del DWP, que refleja el interés del gobierno y la sociedad en general”.
Además de la policía, el Ministerio del Interior también utiliza un sistema de control de inmigración basado en inteligencia artificial. Este sistema, que los críticos llaman un “trabajador social robot”, participa en la toma de decisiones, incluida la devolución de personas a sus países de origen.
Sin embargo, el gobierno lo ha descrito como un sistema “basado en reglas”, en contraposición a un sistema de inteligencia artificial, porque no implica el aprendizaje automático a partir de datos. Según el gobierno, esto aporta eficiencias, aunque un ser humano sigue siendo responsable de cada decisión.
Según se informa, el Servicio Nacional de Salud de Inglaterra también ha firmado un contrato de 330 millones de libras con Palantir para construir una enorme plataforma de datos, lo que aumenta aún más las preocupaciones sobre la privacidad de los pacientes. Palantir afirmó que los pacientes conservan el control de los datos.
Un grupo de campaña por los derechos de privacidad, Big Brother Watch, destacó que la aparición del contrato de reconocimiento facial policial, a pesar de que los parlamentarios advirtieron sobre la falta de legislación para regularlo, mostró la falta de transparencia del gobierno sobre el uso de la tecnología de inteligencia artificial.
“El uso secreto de la IA y los algoritmos para influir en la vida de las personas pone en riesgo los derechos de todos sobre los datos”, dijo Madeleine Stone, directora de defensa de derechos humanos.
“Los departamentos gubernamentales deben ser abiertos y honestos sobre cómo utilizan esta tecnología”.
Piedra.
Imogen Parker, directora asociada del organismo de investigación de datos e inteligencia artificial, también expresó su preocupación por la falta de transparencia.
“La falta de transparencia no solo mantiene al público en la oscuridad, sino que también significa que el sector público está actuando a ciegas en su adopción de IA”.
Parqueador.
“No publicar registros de transparencia algorítmica está limitando la capacidad del sector público de determinar si estas herramientas funcionan, aprender de lo que no funciona y monitorear los diferentes impactos sociales de estas herramientas”, agregó Parker.
De cero a profesional de la Web3: tu plan de lanzamiento profesional de 90 días