YouTube développe des outils pour détecter l’utilisation de versions générées par l’IA de la voix ou de l’apparence physique des utilisateurs dans des vidéos sans leur consentement. Dans une annonce faite aujourd’hui, la plateforme appartenant à Google a déclaré que ces outils protégeront les créateurs sur sa plateforme.
Cette annonce est une bonne nouvelle, car ces outils répondent aux principales préoccupations concernant la prolifération des deepfakes, qui entraîne parfois des pertes financières et de réputation. Beaucoup espèrent que cela facilitera le processus d'identification et de signalement des deepfakes.
Deux outils pour protéger les musiciens et les personnalités publiques
L'entreprise a expliqué qu'elle travaillait sur deux outils. Le premier est un outil d'identification de la voix chantée qui ferait partie du système YouTube Content ID. Cette fonctionnalité détecte automatiquement le contenu généré par l'IA simulant la voix chantée d'autres personnes sur la plateforme et les supprime automatiquement.
Pour le deuxième outil, YouTube développe une technologie qui permet aux personnes populaires telles que les créateurs, les athlètes, les musiciens et les artistes de détecter et de supprimer les deepfakes de leurs visages sur la plateforme. L'entreprise a noté que ces outils, ainsi que ses mises à jour de confidentialité et ses conditions de service, seraient suffisants pour protéger les créateurs.
Cependant, l’objectif de YouTube n’est pas d’empêcher les gens d’utiliser l’IA sur sa plateforme ; il cherche seulement à garantir l’utilisation responsable de l’IA et à permettre aux créateurs de contrôler l’utilisation de leur image.
Il disait :
« Nous pensons que l’IA doit renforcer la créativité humaine, et non la remplacer. Nous nous engageons à travailler avec nos partenaires pour garantir que les avancées futures amplifient leurs voix, et nous continuerons à développer des garde-fous pour répondre aux préoccupations et atteindre nos objectifs communs. »
Entre-temps, YouTube n'a pas donné de calendrier quant à la date à laquelle ces fonctionnalités seraient disponibles pour les utilisateurs, notant seulement que l'outil de détection de la voix chantée avait encore besoin d'être peaufiné, mais qu'il y aurait un programme pilote d'ici début 2025.
YouTube dévoile une technologie pour empêcher le scraping de données par l'IA
YouTube a également laissé entendre qu’il travaillait sur un outil pour empêcher les entreprises d’IA d’utiliser le contenu de sa plateforme pour entraîner leurs modèles sans l’autorisation des propriétaires. Considérant cela comme un problème majeur, la plateforme a déclaré qu’elle investissait dans des systèmes qui détecteront et empêcheront les tiers de récupérer des données de sa plateforme et de violer ses conditions d’utilisation.
Cependant, YouTube reconnaît que les créateurs pourraient vouloir collaborer avec des entreprises d’IA. C’est pourquoi elle travaille sur des moyens permettant aux créateurs YouTube de contrôler la manière dont des tiers utilisent leur contenu sur la plateforme.
Malgré la position ferme de YouTube à l’égard des entreprises d’IA qui récupèrent son contenu pour entraîner leurs modèles, la plateforme et sa société mère, Google, utilisent ce contenu dans le même but, mais dans le respect des conditions d’utilisation. Elle prévoit de continuer à utiliser ce contenu pour développer des outils d’IA de manière responsable.