TLDR

  • L'IA est utilisée pour renforcer divers types d'escroqueries, notamment le clonage vocal, le phishing personnalisé, la fraude d'identité et le chantage deepfake.

  • Morgan Freeman s'est prononcé contre les imitations non autorisées de lui-même par l'IA

  • Des célébrités comme Scarlett Johansson et Drake ont été confrontées à des problèmes avec le contenu généré par l'IA imitant leur voix.

  • L’industrie du divertissement s’inquiète de plus en plus de l’utilisation abusive de la technologie de l’IA.

  • Les experts recommandent les meilleures pratiques de vigilance et de cybersécurité pour se protéger contre les escroqueries basées sur l'IA

À mesure que la technologie de l’intelligence artificielle (IA) progresse, les fraudeurs trouvent de nouvelles façons de l’exploiter à des fins malveillantes.

Du clonage vocal au chantage deepfake, les escroqueries basées sur l’IA deviennent de plus en plus sophistiquées et plus difficiles à détecter.

Dans le même temps, des célébrités dénoncent l’utilisation non autorisée de leur voix et de leur image dans le contenu généré par l’IA.

L’une des escroqueries IA les plus préoccupantes concerne le clonage vocal de la famille et des amis. Les fraudeurs peuvent désormais créer de fausses versions convaincantes des voix de leurs proches en utilisant seulement quelques secondes d’audio.

Ces voix synthétiques peuvent être utilisées pour créer de faux appels de détresse demandant de l’argent ou de l’aide. Les experts conseillent de se méfier de tout appel inattendu provenant de numéros inconnus et de vérifier l'identité de l'appelant via les canaux de communication normaux.

Le phishing personnalisé et les spams constituent une autre menace croissante. Les modèles de langage d'IA peuvent désormais générer des messages de spam personnalisés à l'aide d'informations personnelles obtenues lors de violations de données.

Ces messages personnalisés sont bien plus convaincants que le spam générique traditionnel. Il est conseillé aux utilisateurs de rester vigilants et d'éviter de cliquer sur des liens ou d'ouvrir des pièces jointes provenant de sources suspectes, même si le message semble personnalisé.

La fraude à l’identité devient également plus sophistiquée grâce à l’IA. Les fraudeurs peuvent désormais créer des personnages IA qui ressemblent à une personne cible et ont accès à de nombreuses informations personnelles utilisées pour la vérification de l'identité.

Cela leur permet de se faire passer plus facilement pour des personnes lorsqu'ils contactent le service client. Les experts recommandent d’utiliser l’authentification multifacteur et de se méfier de toute activité suspecte sur votre compte.

Le développement le plus alarmant est peut-être l’utilisation de deepfakes générés par l’IA à des fins de chantage.

Des modèles avancés de génération d’images peuvent désormais créer de fausses images nues réalistes de presque n’importe qui, que les escrocs peuvent utiliser comme levier pour l’extorsion. Bien qu’il s’agisse d’une tendance inquiétante, les experts notent que ces fausses images manquent souvent de signes distinctifs et peuvent présenter des défauts évidents. Il est conseillé aux victimes de signaler de tels incidents aux autorités.

L’industrie du divertissement a été particulièrement touchée par les imitations non autorisées de l’IA.

Récemment, l’acteur Morgan Freeman s’est prononcé contre les imitations de voix d’IA qui circulent sur les réseaux sociaux. Dans un communiqué, Freeman a remercié ses fans pour leur « vigilance et leur soutien en dénonçant l’utilisation non autorisée d’un système d’IA ». voix qui m’imite. Il a souligné l’importance de maintenir « l’authenticité et l’intégrité » face à une telle technologie.

Merci à mes incroyables fans pour votre vigilance et votre soutien en dénonçant l'utilisation non autorisée d'un système d'IA. voix qui m'imite. Votre dévouement aide l’authenticité et l’intégrité à rester primordiales. Reconnaissant.#IA#arnaque#imitation#IdentityProtection

– Morgan Freeman (@morgan_freeman) 28 juin 2024

Freeman n’est pas le seul à avoir ces inquiétudes. D’autres célébrités ont été confrontées à des problèmes similaires avec le contenu généré par l’IA.

L’équipe juridique de Scarlett Johansson a récemment contesté OpenAI au sujet d’un assistant vocal personnel IA qui ressemblait remarquablement à sa voix, malgré son refus de participer au projet.

Le rappeur Drake a également fait l’objet d’une controverse pour avoir utilisé des imitations de Tupac Shakur et Snoop Dogg générées par l’IA dans une chanson, ce qui a conduit à une ordonnance de cessation et d’abstention de la part de la succession de Shakur.

L'article Morgan Freeman et des célébrités s'expriment contre les imitations non autorisées de l'IA apparaît en premier sur Blockonomi.