O governo do Reino Unido supostamente não está listando seu uso de sistemas de IA em registros obrigatórios, levantando preocupações sobre problemas de transparência.
De acordo com o The Guardian, o Secretário de Tecnologia admitiu que os departamentos não são transparentes em relação ao uso de IA e algoritmos, apesar de vários departamentos governamentais os utilizarem para diversos propósitos.
Departamentos do governo do Reino Unido “voando às cegas” sobre o uso de IA
O artigo do The Guardian revela que nenhum departamento listou o uso de IA desde que o governo indicou que ela se tornaria obrigatória. Isso levantou preocupações de que o setor público está “voando às cegas”.
Isso acontece porque os departamentos governamentais no Reino Unido já estão usando IA, por exemplo, para informar decisões sobre tudo, desde pagamentos de benefícios até a fiscalização da imigração. De acordo com o The Guardian, alguns registros mostram que órgãos públicos concederam contratos para serviços algorítmicos de IA.
Por exemplo, o órgão de compras da polícia recentemente celebrou um contrato de reconhecimento facial no valor de US$ 20 milhões, aumentando ainda mais as preocupações sobre a “vigilância biométrica em massa”.
No entanto, apenas nove sistemas algorítmicos foram submetidos a um registro público, sem nenhum dos crescentes programas de IA usados no sistema de bem-estar pelo Home Office ou pela polícia. Em fevereiro, o governo do Reino Unido anunciou que o uso de registros de IA seria agora um “requisito para todos os departamentos governamentais”.
Questionado sobre a falta de transparência, o Secretário de Estado da Ciência e Tecnologia, Peter Kyle, admitiu que o setor público “não levou suficientemente a sério a necessidade de ser transparente na forma como o governo usa algoritmos”.
“Aceito que se o governo está usando algoritmos em nome do público, o público tem o direito de saber.”
Kyle, o que é isso?
“O público precisa sentir que os algoritmos estão lá para servi-los e não o contrário. A única maneira de fazer isso é ser transparente sobre seu uso”, acrescentou Kyle.
O governo do Reino Unido ignorou os avisos
De acordo com o artigo do The Guardian, especialistas alertaram sobre os perigos da IA se adotada sem crítica, com exemplos recentes de sistemas de TI que não funcionaram como esperado, incluindo o software Horizon dos Correios.
O uso da tecnologia de IA em Whitehall abrange do sistema Copilot da Microsoft a verificações automatizadas de fraude e erro no sistema de benefícios. Outro aviso de contrato de IA recente do Departamento de Trabalho e Pensões (DWP) descreveu “um interesse crescente dentro do DWP, que reflete o do governo e da sociedade em geral”.
Além da polícia, o Home Office também usa um sistema de execução de imigração habilitado por IA. Esse sistema, que os críticos chamam de “robô-assistente de caso”, está envolvido na formação de decisões, incluindo o retorno de pessoas aos seus países de origem.
O governo, no entanto, descreveu-o como um sistema “baseado em regras” em oposição ao sistema de IA porque não envolve aprendizado de máquina a partir de dados. De acordo com o governo, isso traz eficiências, embora um humano permaneça responsável por cada decisão.
O NHS England também está supostamente em um contrato de 330 milhões de libras com a Palantir para construir uma nova plataforma de dados enorme, levantando ainda mais preocupações sobre a privacidade do paciente. A Palantir disse que os pacientes mantêm o controle dos dados.
Um grupo de campanha pelos direitos de privacidade, Big Brother Watch, destacou que o surgimento do contrato de reconhecimento facial da polícia, apesar dos parlamentares alertarem sobre a falta de legislação para regulá-lo, mostrou a falta de transparência do governo sobre o uso da tecnologia de IA.
“O uso secreto de IA e algoritmos para impactar a vida das pessoas coloca os direitos de todos sobre os dados em risco”, disse Madeleine Stone, diretora de advocacia.
“Os departamentos governamentais devem ser abertos e honestos sobre como usam essa tecnologia.”
Pedra.
A diretora associada do órgão de pesquisa de dados e IA, Imogen Parker, também expressou preocupações com a falta de transparência.
“A falta de transparência não está apenas mantendo o público no escuro, mas também significa que o setor público está voando às cegas na adoção da IA.”
Parker, o Sr.
“Não publicar registros de transparência algorítmica está limitando a capacidade do setor público de determinar se essas ferramentas funcionam, aprender com o que não funciona e monitorar os diferentes impactos sociais dessas ferramentas”, acrescentou Parker.
Do Zero ao Web3 Pro: Seu Plano de Lançamento de Carreira de 90 Dias