Fotos de perfil geradas por IA estão sendo usadas por algumas contas para manipular mensagens políticas e esquemas de criptomoedas. Pesquisadores da Alemanha encontraram quase 8.000 contas usando rostos sintéticos, principalmente amplificando mensagens políticas e esquemas de criptomoedas. A maioria dessas contas foi criada em 2023 e elas tendem a ter menos seguidores e se envolver menos com seus seguidores.
O estudo também descobriu que algumas dessas contas falsas faziam parte de ataques coordenados de spam, com foco em questões como a guerra na Ucrânia, eleições nos EUA, COVID-19 e políticas de vacinação. Além disso, essas contas promoviam golpes de criptomoedas e conteúdo relacionado a sexo. Os pesquisadores planejam expandir os recursos de detecção para identificar imagens de IA geradas a partir de outros modelos e melhorar sua metodologia para identificar comportamento inautêntico coordenado em plataformas sociais.
Fonte
<p>O post AI Generated Profile Pics Boost Political Messages and Crypto Scams apareceu pela primeira vez no CoinBuzzFeed.</p>