Com o desenvolvimento das tecnologias de IA, a IA está a ser utilizada de forma antiética em filtros eleitorais, como apontada como uma ameaça da influência eleitoral. A Microsoft avisou que a China estava pronta para mexer nas próximas eleições na Índia, nos EUA e na Coreia do Sul e que estava ansiosa para empregar a ajuda de conteúdo gerado por IA. Este aviso deve-se ao recente julgamento da China durante as eleições presidenciais de Taiwan, no qual uma IA foi usada para impactar os resultados da votação.

Aviso e avaliação da Microsoft

Especialistas em inteligência de ameaças da Microsoft revelaram que a China provavelmente será o país por trás de grupos de hackers patrocinados pelo estado que podem usar o envolvimento da Coreia do Norte para acessar os sistemas das agências eleitorais estaduais nas eleições de 2024. O aviso veio depois que a China tentou usar IA durante uma eleição do presidente de Taiwan para influenciar o resultado. O plano foi implementado com tecnologia de IA, já que o conteúdo gerado por IA, como endossos de áudio falsos e memes, fez com que alguns candidatos parecessem ruins ou manipulassem as percepções dos eleitores.

De acordo com funcionários da Microsoft, o conteúdo gerado por IA da China desafia a integridade das eleições dos EUA, especialmente eleições cruciais como a corrida presidencial de 2024. A gigante da tecnologia alerta que criar “deepfakes”, eventos fictícios e outras técnicas enganosas pode enganar o público e prejudicar sua capacidade de tomar decisões sólidas e corretas.

A influência da IA ​​nas eleições não é apenas a experiência de Taiwan; os Estados Unidos também viram a atividade de IA da China na esfera política. Grupos chineses alegaram ter realizado as mesmas campanhas de desinformação em populações eleitorais-alvo importantes e postado material partidário em canais de mídia social também. No entanto, a maioria das pesquisas sobre esse tópico não fornece muito suporte às suas alegações de uma mudança notável na opinião pública.

Levando às primárias democratas de New Hampshire em 2024, uma mensagem de voz gerada por IA representando a voz do presidente Joe Biden foi divulgada, encorajando os eleitores a se absterem de participar do processo de votação. Apesar da alegação de que a situação não se relaciona à China, o evento transmite o risco mais geral aos procedimentos democráticos representados pela IA.

Implicações para as eleições na Índia

A Índia, que realizará suas eleições gerais a partir de 19 de abril, também não está livre do perigo de interferência de IA. É bastante aparente que o alerta da Microsoft mostra que, devido ao aumento dos ataques cibernéticos, há uma necessidade de maior vigilância para proteger a integridade da eleição da Índia contra ataques cibernéticos. Considerando que todo o procedimento consiste em sete estágios que vão de 19 de abril a 1º de junho, os medos sobre a intrusão de IA no processo de votação parecem ser válidos.

Um dos maiores desafios que a Índia tem como a maior democracia do mundo é manter a integridade do sistema eleitoral contra interferências externas. O conteúdo gerado por IA pode ser usado para manipular as percepções dos eleitores e desconsiderar a legitimidade da eleição, acabando assim por desconfiar do processo democrático.

Após o aumento de eleições em massa internacionalmente, governos, provedores de tecnologia e organizações de direitos humanos devem abordar o perigo representado pelo conteúdo gerado por IA. Superar esse obstáculo exige tentativas interconectadas de criar medidas drásticas para detectar e impedir rapidamente a disseminação de informações falsas. Salvaguardar a integridade e a transparência do processo eleitoral deve estar no topo da agenda antes das próximas eleições da Índia. A vigilância contra a manipulação de IA e a promoção da alfabetização digital, bem como a conscientização do eleitor, são os principais pilares para defender a democracia na era digital.

A IA na influência de eleições é um grande perigo, pois mina a fundação da democracia e a integridade do processo eleitoral. Por meio de monitoramento contínuo e abordagens reativas, as partes interessadas podem agir em uníssono para interromper a disseminação de conteúdo falso e ajudar a garantir um espírito democrático limpo.

Fonte: https://blogs.microsoft.com/on-the-issues/2024/04/04/china-ai-influence-elections-mtac-cybersecurity/