YouTube está desarrollando herramientas para detectar el uso de versiones generadas por IA de las voces o imágenes físicas de los usuarios en los vídeos sin su consentimiento. En un anuncio publicado hoy, la plataforma propiedad de Google afirmó que estas herramientas protegerán a los creadores en su plataforma.
El anuncio es un avance positivo, ya que las herramientas abordan importantes preocupaciones en torno a la proliferación de deepfakes, que a veces conducen a pérdidas financieras y de reputación. Muchos esperan que facilite el proceso de identificación y denuncia de deepfakes.
Dos herramientas se centran en la protección de músicos y figuras públicas
La compañía explicó que está trabajando en dos herramientas. La primera es una herramienta de identificación de voces cantadas que formaría parte del sistema Content ID de YouTube. Esta función detecta automáticamente el contenido generado por IA que simula las voces cantadas de otras personas en la plataforma y las elimina automáticamente.
Para la segunda herramienta, YouTube está desarrollando una tecnología que permite a personas populares como creadores, deportistas, músicos y artistas detectar y eliminar deepfakes de sus rostros en la plataforma. La compañía señaló que estas herramientas, junto con sus Actualizaciones de Privacidad y Condiciones de Servicio, serían suficientes para proteger a los creadores.
Sin embargo, el objetivo de YouTube no es impedir que las personas utilicen IA en su plataforma; solo busca garantizar el uso responsable de la IA y empoderar a los creadores para que controlen el uso de su imagen.
Decía:
“Creemos que la IA debería mejorar la creatividad humana, no reemplazarla. Estamos comprometidos a trabajar con nuestros socios para garantizar que los avances futuros amplifiquen sus voces y continuaremos desarrollando barreras para abordar las preocupaciones y lograr nuestros objetivos comunes”.
Mientras tanto, YouTube no dio un cronograma de cuándo estas funciones estarán disponibles para los usuarios, solo señaló que la herramienta de detección de voz cantada aún necesita algunos ajustes, pero que habrá un programa piloto a principios de 2025.
YouTube presenta una tecnología para evitar el rastreo de datos por parte de la IA
YouTube también dio a entender que está trabajando en una herramienta para evitar que las empresas de inteligencia artificial utilicen el contenido de su plataforma para entrenar a sus modelos sin el permiso de los propietarios. Al considerar que esto es un problema importante, la plataforma dijo que está invirtiendo en sistemas que detectarán y bloquearán a terceros para que no extraigan datos de su plataforma y violen sus Términos de Servicio.
Sin embargo, reconoció que los creadores podrían querer colaborar con empresas de inteligencia artificial. Por lo tanto, está trabajando en formas de permitir que los creadores de YouTube controlen cómo terceros usan su contenido en la plataforma.
A pesar de la postura firme de YouTube contra las empresas de inteligencia artificial que copian su contenido para entrenar a sus modelos, la plataforma y su empresa matriz, Google, utilizan este contenido con el mismo propósito, pero de conformidad con los términos del servicio. La empresa planea seguir utilizando el contenido para desarrollar herramientas de inteligencia artificial de manera responsable.
