A Internet Watch Foundation (IWF), uma organização sediada no Reino Unido que trabalha para eliminar conteúdo de abuso sexual online envolvendo crianças, soou o alarme sobre o aumento de imagens de IA na internet retratando abuso sexual infantil.
Imagens de abuso sexual infantil feitas por IA estão inundando a Internet
A IWF disse que os criminosos agora estão explorando ferramentas de tecnologia de IA para criar novas imagens de abuso sexual infantil usando os rostos e corpos de crianças que já estiveram envolvidas em abuso na vida real. E, dados os avanços na IA, essas imagens parecem realistas e quase difíceis de distinguir, disse a IMF.
De acordo com a organização, cerca de 11.108 imagens de IA de imagens sexuais infantis foram compartilhadas em um fórum de abuso infantil na dark web em um único mês. Até 2.978 dessas imagens foram confirmadas como tendo violado a lei do Reino Unido contra abuso sexual infantil, enquanto outras 2.562 eram tão realistas que tiveram que ser tratadas como imagens reais de abuso.
“Nossos piores pesadelos se tornaram realidade. No início deste ano, alertamos que as imagens de IA poderiam em breve se tornar indistinguíveis de fotos reais de crianças sofrendo abuso sexual e que poderíamos começar a ver essas imagens proliferando em números muito maiores. Agora passamos desse ponto”, disse a presidente-executiva da IWF, Susie Hargreaves.
A IWF também notou novas e horrendas maneiras pelas quais criminosos estavam explorando ferramentas de tecnologia de IA para propósitos prejudiciais. Ela disse que criminosos estão usando as ferramentas para sexualizar imagens de crianças vestidas e também rejuvenescer imagens de celebridades para retratá-las em cenas de abuso sexual.
A necessidade de uma resposta regulatória rápida
Embora seja inegável que a tecnologia de IA seja destinada a bons usos, ainda há uma forte necessidade de domar o uso indevido por criminosos. Os casos destacados pela IWF ressaltam a necessidade de reguladores em todo o mundo aplicarem conjuntamente medidas para impedir o uso de IA para fins prejudiciais.
“A colaboração internacional é vital. É um problema urgente que precisa de ação agora. Se não controlarmos essa ameaça, esse material ameaça sobrecarregar a internet”, disse Hargreaves.
Não apenas os reguladores, mas as empresas de IA também têm um grande papel a desempenhar na prevenção do uso ilícito de ferramentas de geração de imagens de IA, como o bloqueio de prompts que envolvam solicitações imoderadas. Vale a pena notar que alguns geradores de imagens de IA, como o Midjourney, já bloqueiam solicitações com certas palavras-chave, como "pornografia", "sexo", etc.