Os golpes deepfake são uma tendência preocupante sobre a qual a Comissão de Valores Mobiliários e Futuros de Hong Kong alertou. Essas fraudes estão afetando o negócio criptográfico. Os golpistas estão empregando estratégias sofisticadas, como filmes deepfake retratando pessoas conhecidas como Elon Musk, para enganar as pessoas usando tecnologia de inteligência artificial de ponta. Exploraremos o caso recente de uma organização sediada em Hong Kong que utiliza tecnologia deepfake para anunciar falsos esquemas de criptografia, iluminando as ramificações mais amplas de tais táticas desonestas.

A ascensão dos golpes Deepfake em 2024

Os golpistas estão sempre mudando suas estratégias para aproveitar as fraquezas dos ecossistemas digitais, uma vez que vivemos em uma época de rápida inovação técnica. A tecnologia Deepfake se tornou uma arma poderosa na caixa de ferramentas dos hackers. Ele usa algoritmos de IA para imitar as vozes e expressões faciais das pessoas-alvo. Com o uso dessas simulações realistas, os artistas podem produzir gravações falsas de áudio ou vídeo e se passar por indivíduos bem conhecidos para realizar ações fraudulentas.

Tornou-se uma questão significativa em 2024, com mais de 40 eleições em todo o mundo. Os avanços na tecnologia, especialmente na mídia sintética, como os deepfakes, tornaram difícil determinar se a mídia é fabricada por um computador ou baseada em eventos reais. O impacto dos deepfakes nas eleições permanece obscuro, mas exemplos sugerem que podem ser utilizados de várias maneiras.

Os estudiosos publicaram muitos artigos e livros sobre esse assunto. Os jornalistas receberam formação em fins de confirmação e verificação e os governos participaram em “grandes comités” e centros de superioridade. O desenvolvimento de estratégias de resiliência fez das bibliotecas o seu ponto focal. Algumas novas organizações surgiram para oferecer recursos, treinamento e análise. Uma compreensão mais sofisticada da desinformação como um fenômeno social, psicológico, político e técnico resultou deste trabalho.

Os deepfakes políticos podem assumir muitas formas, como intimidação e maus-tratos a mulheres e meninas ou disseminação de informações falsas sobre aqueles que concorrem a cargos públicos. A complexidade do áudio deepfake torna difícil identificá-lo, e é crucial lembrar que os deepfakes ainda estão em sua infância e carecem de alta qualidade.

Zero dólares é a quantia que esse golpista deveria ter recebido. pic.twitter.com/wvM3HJYql6

- Dra. Anastasia Maria Loupis (@DrLoupis) 13 de fevereiro de 2024

A forma como as comissões de votação, os candidatos, os meios de comunicação social e os eleitores lidam com potenciais incidentes permanece obscura. A integridade das eleições democráticas não pode depender da incompetência dos falsificadores. Outra táctica utilizada para minar a democracia é a propagação de rumores e conspirações sobre a validade do processo eleitoral.

A resiliência dos processos democráticos deve ser tida em conta para combater o problema da desinformação antes das próximas eleições. Um sistema de mídia imparcial que possa fornecer investigações superiores atende ao interesse público? Existem tribunais independentes que possam tomar decisões quando necessário? E será que os políticos e os partidos políticos dão prioridade suficiente aos princípios democráticos em detrimento do interesse próprio? As respostas a estas perguntas poderão vir à tona durante este ano eleitoral.

O golpe de Hong Kong revelado

Recentemente, a Comissão de Valores Mobiliários e Futuros de Hong Kong tornou pública informação sobre um caso alarmante envolvendo um grupo que usava o nome AI Quantum ou Quantum AI. Esta organização criminosa alegou fornecer serviços de negociação de bitcoin de ponta baseados em inteligência artificial. No entanto, as evidências encontradas pelos investigadores apontam para que a organização atue como fachada para o cometimento de fraudes envolvendo ativos virtuais.

Crypto Exchange com sede em Hong Kong usa Deepfake de Elon Musk para promover serviços pic.twitter.com/GG61JbT3R9

– CryptoAlerts365 (@CryptoAlerts365) 13 de maio de 2024

Para reforçar a credibilidade do seu esquema, os perpetradores recorreram a vídeos deepfake com Elon Musk, retratando-o falsamente como o mentor da sua tecnologia. Ao espalhar estes clips fabricados e ao criar um website de “notícias” falsificado, os burlões procuraram enganar potenciais vítimas e legitimar os seus esforços ilícitos. Esta manipulação da confiança destaca a natureza insidiosa dos golpes deepfake e os desafios que representam para indivíduos inocentes que navegam no cenário digital.

Uma mulher coreana se apaixonou por um vídeo deepfake de Elon Musk, enviando ao golpista mais de US$ 50 mil pic.twitter.com/6x8AIJvmrb

– Pubidade (@pubity) 5 de maio de 2024

Ação rápida e preocupações contínuas

A intervenção imediata das autoridades de Hong Kong levou ao encerramento de todos os websites e páginas de redes sociais do grupo. No entanto, a extensão total dos danos infligidos pela fraude permanece desconhecida, sublinhando a necessidade urgente de maior vigilância e de medidas robustas de cibersegurança. Este incidente serve como um forte lembrete da ameaça generalizada representada pela tecnologia deepfake e do imperativo de proteção contra a sua exploração maliciosa.

Este caso não é um incidente isolado; faz parte de uma tendência mais ampla em que os golpistas exploram a tecnologia deepfake para usar esquemas fraudulentos em todo o mundo. Desde golpes românticos perpetrados por grupos notórios como “The Yahoo Boys” na Nigéria até táticas elaboradas de falsificação de identidade visando figuras de destaque como Elon Musk e líderes políticos como o primeiro-ministro de Cingapura, Lee Hsien Loong, a proliferação de golpes deepfake ressalta as implicações de longo alcance de manipulação tecnológica.

Na ausência do Congresso, os estados e os reguladores internacionais estão a tomar medidas para controlar a proliferação de conteúdos eleitorais gerados pela IA. Cerca de dez estados adotaram leis para penalizar aqueles que usam a IA para enganar os eleitores, com o governador do Wisconsin a assinar um projeto de lei bipartidário que multaria as pessoas que não divulgassem a IA em anúncios políticos. A lei de Michigan pune qualquer pessoa que distribua conscientemente um deepfake gerado por IA dentro de 90 dias após uma eleição. No entanto, não está claro se as penalidades são suficientes para dissuadir potenciais infratores. Com tecnologia de detecção limitada e pouco pessoal designado, as autoridades podem ter dificuldade em confirmar rapidamente se um vídeo ou imagem é realmente gerado por IA.

Os responsáveis ​​governamentais procuram acordos voluntários entre políticos e empresas tecnológicas para controlar a proliferação de conteúdos eleitorais gerados pela IA. A vice-presidente da Comissão Europeia, Vera Jourova, enviou cartas aos principais partidos políticos dos Estados-Membros europeus para resistirem ao uso de técnicas de manipulação, mas os políticos e os partidos políticos não enfrentarão quaisquer consequências se não seguirem o seu pedido.

A OpenAI tentou estabelecer relacionamentos com empresas de mídia social para abordar a distribuição de materiais políticos gerados por IA. No entanto, as empresas não enfrentarão quaisquer sanções se não cumprirem o seu compromisso.

À medida que a sociedade enfrenta os desafios éticos e regulamentares colocados pela tecnologia deepfake, o combate à sua utilização indevida requer esforços concertados das partes interessadas de todos os setores. Para proteger os ecossistemas digitais contra fraudes, é crucial uma maior sensibilização e medidas de aplicação rigorosas. Numa época em que a realidade pode ser facilmente manipulada, o discernimento e o ceticismo são fundamentais para navegar no cenário em constante evolução das interações online.

A postagem Comissão de Valores Mobiliários de Hong Kong alerta sobre golpes deepfake direcionados à indústria de criptografia: implicações para a segurança do investidor apareceu pela primeira vez no Metaverse Post.