As instituições financeiras enfrentam ameaça crescente de fraudes sofisticadas de IA

Muitas instituições financeiras estão a lutar para acompanhar a crescente sofisticação da fraude impulsionada pela IA, criando uma necessidade crítica de métodos melhorados de detecção e prevenção.

No mundo das finanças, a inteligência artificial (IA) emergiu tanto como uma ferramenta como como geradora de novos problemas. Traz inovação, produtividade e eficiência para as empresas, mas também introduziu desafios sofisticados que muitas instituições financeiras não estão preparadas para enfrentar.

Desde o surgimento de ferramentas de IA acessíveis, muitas instituições financeiras têm enfrentado dificuldades com a falta de ferramentas para identificar e separar com precisão a fraude de IA de outros tipos de fraude.

Essa incapacidade de diferenciar vários tipos de fraude dentro de seus sistemas deixa essas instituições com um ponto cego e dificulta a compreensão do escopo e do impacto da fraude impulsionada pela IA.

O Cointelegraph ouviu Ari Jacoby, especialista em fraude de IA e CEO da Deduce, para entender melhor como as instituições financeiras podem identificar e separar fraudes de IA, o que pode ser feito para prevenir esse tipo de fraude antes que ela ocorra e como seu rápido crescimento pode impactar todo o setor.

Identificação de fraude de IA

Considerando que o principal desafio é que a maioria das instituições financeiras atualmente não tem como distinguir entre fraudes geradas por IA e todos os outros tipos, elas são agregadas em uma categoria de fraude.

Jacoby disse que a combinação de informações pessoais legítimas de identificação — como números de previdência social, nomes e datas de nascimento — com endereços de e-mail criados socialmente e números de telefone legítimos torna a detecção por sistemas legados quase impossível.

Jacoby disse que isso torna a prevenção e a correção dos principais fatores de fraude extremamente difíceis, especialmente à medida que novos tipos de fraude aumentam.

“A IA é particularmente difícil de detectar devido à sua capacidade de criar identidades sintéticas e realistas em uma escala que torna quase impossível para a tecnologia identificar.”

De acordo com o CEO da Deduce, o desafio com as soluções é que a tecnologia está avançando rapidamente e, portanto, também o conjunto de habilidades daqueles que cometem fraude de IA. Isso significa que as instituições financeiras devem estar no topo do seu jogo agora para entender onde a IA entra em jogo em tais casos de fraude.

Encontrando soluções

De acordo com Jacoby, o primeiro passo na implementação de soluções é analisar os padrões de atividade online de indivíduos e grupos de identidades para encontrar ações fraudulentas que podem parecer legítimas, mas na verdade são fraudes.

Ele disse que os métodos de prevenção de fraudes legados simplesmente não são mais suficientes, e as instituições financeiras precisarão se tornar “implacavelmente proativas” em sua busca pela prevenção da explosão contínua de fraudes geradas por IA.

Isso provavelmente não significará implementar apenas uma solução — significará criar um programa em camadas que funcione para identificar fraudadores existentes na base de clientes existente, ao mesmo tempo em que trabalha para prevenir novas identidades falsas antes que elas se infiltrem.

“Ao sobrepor soluções, utilizar conjuntos de dados massivos para identificar padrões e analisar pontuações de confiança com mais precisão, esse tipo de fraude pode ser melhor mitigado.”

Jacoby disse que a maioria das equipes de fraude financeira com as quais estão falando estão movendo o risco “um degrau para a direita”, com qualquer coisa anteriormente categorizada como baixo risco agora sendo de risco médio, e estão tomando medidas adicionais para prevenir fraudes em todos os estágios do ciclo de vida do cliente.

“Eles estão levando a ameaça de fraude de IA a sério; é um dos principais problemas que assolam o setor financeiro, e estamos apenas nos estágios iniciais de quão avançada essa tecnologia se tornará.”

Jacoby enfatizou que a fraude aumentou 20% ano a ano, com o crescimento da IA ​​aumentando significativamente a prevalência de identidades sintéticas.

“A fraude impulsionada por IA é o aspecto de fraude de identidade que mais cresce hoje e representará um problema de mais de US$ 100 bilhões este ano.”

Além das instituições financeiras tradicionais, identidades falsas geradas por IA também têm a possibilidade de reformular as medidas de KYC das exchanges de criptomoedas e a segurança cibernética como um todo.

A questão é grande o suficiente para que também já esteja sendo analisada pelos reguladores. Em 2 de maio, a Comissária da United States Commodity Futures Trading Commission (CFTC), Kristin Johnson, avançou três propostas para a regulamentação de tecnologias de IA conforme se aplicam aos mercados financeiros dos EUA.

Particularmente a introdução de penalidades mais severas para aqueles que intencionalmente usam tecnologias de IA para se envolver em fraudes, manipulação de mercado ou evasão de regulamentações.

Se as instituições financeiras e os reguladores não agirem agora, correm o risco de não conseguirem compreender eficazmente a solução certa. #Write2Earn