TLDR
A IA está sendo usada para aprimorar vários tipos de golpes, incluindo clonagem de voz, phishing personalizado, fraude de identidade e chantagem deepfake
Morgan Freeman se manifestou contra imitações não autorizadas de sua voz por IA
Celebridades como Scarlett Johansson e Drake enfrentaram problemas com conteúdo gerado por IA imitando suas vozes
Há uma preocupação crescente na indústria do entretenimento sobre o uso indevido da tecnologia de IA
Especialistas recomendam práticas recomendadas de vigilância e segurança cibernética para proteção contra golpes baseados em IA
À medida que a tecnologia de inteligência artificial (IA) avança, os golpistas estão encontrando novas maneiras de explorá-la para fins maliciosos.
Da clonagem de voz à chantagem falsa, os golpes baseados em IA estão se tornando mais sofisticados e mais difíceis de detectar.
Ao mesmo tempo, celebridades se manifestam contra o uso não autorizado de suas vozes e imagens em conteúdo gerado por IA.
Um dos golpes de IA mais preocupantes envolve a clonagem de voz de familiares e amigos. Os golpistas agora podem criar versões falsas e convincentes das vozes de entes queridos usando apenas alguns segundos de áudio.
Essas vozes sintéticas podem ser usadas para criar chamadas de socorro falsas pedindo dinheiro ou ajuda. Os especialistas aconselham ter cuidado com chamadas inesperadas de números desconhecidos e verificar a identidade de quem liga através dos canais normais de comunicação.
E-mails personalizados de phishing e spam são outra ameaça crescente. Os modelos de linguagem de IA agora podem gerar mensagens de spam personalizadas usando informações pessoais obtidas em violações de dados.
Estas mensagens personalizadas são muito mais convincentes do que o spam genérico tradicional. Os usuários são aconselhados a permanecer vigilantes e evitar clicar em links ou abrir anexos de fontes suspeitas, mesmo que a mensagem pareça personalizada.
A fraude de identidade também está se tornando mais sofisticada com a IA. Os golpistas agora podem criar personas de IA que pareçam uma pessoa-alvo e tenham acesso a muitos fatos pessoais usados para verificação de identidade.
Isso torna mais fácil para eles se passarem por indivíduos ao entrar em contato com o atendimento ao cliente. Os especialistas recomendam o uso de autenticação multifator e cautela com qualquer atividade suspeita na conta.
Talvez o desenvolvimento mais alarmante seja o uso de deepfakes gerados por IA para chantagem.
Modelos avançados de geração de imagens agora podem criar imagens falsas e realistas de nudez de quase qualquer pessoa, que os golpistas podem usar como alavanca para extorsão. Embora esta seja uma tendência preocupante, os especialistas observam que estas imagens falsas muitas vezes carecem de marcas distintivas e podem ter falhas óbvias. As vítimas são aconselhadas a denunciar tais incidentes às autoridades.
A indústria do entretenimento foi particularmente afetada por imitações não autorizadas de IA.
Recentemente, o ator Morgan Freeman se manifestou contra as imitações de sua voz feita por IA que circulam nas redes sociais. Em um comunicado, Freeman agradeceu a seus fãs por sua “vigilância e apoio em denunciar o uso não autorizado de uma IA. voz me imitando.” Ele enfatizou a importância de manter “autenticidade e integridade” diante dessa tecnologia.
Obrigado aos meus incríveis fãs pela sua vigilância e apoio ao denunciar o uso não autorizado de uma IA. voz me imitando. Sua dedicação ajuda a autenticidade e a integridade a permanecerem fundamentais. Grato.#IA#fraude #imitação #ProteçãodeIdentidade
-Morgan Freeman (@morgan_freeman) 28 de junho de 2024
Freeman não está sozinho em suas preocupações. Outras celebridades enfrentaram problemas semelhantes com conteúdo gerado por IA.
A equipe jurídica de Scarlett Johansson desafiou recentemente a OpenAI por causa de um assistente de voz pessoal de IA que soava muito semelhante à sua voz, apesar de ela ter se recusado a participar do projeto.
O rapper Drake também enfrentou polêmica por usar imitações de Tupac Shakur e Snoop Dogg geradas por IA em uma música, levando a uma ordem de cessar e desistir do espólio de Shakur.
A postagem Morgan Freeman e celebridades falam contra imitações não autorizadas de IA apareceu pela primeira vez no Blockonomi.