YouTube sta sviluppando strumenti per rilevare l'uso di versioni generate dall'intelligenza artificiale delle voci degli utenti o delle loro sembianze fisiche nei video senza il loro consenso. In un annuncio odierno, la piattaforma di proprietà di Google ha affermato che questi strumenti proteggeranno i creatori sulla sua piattaforma.
L'annuncio è un'evoluzione gradita, poiché gli strumenti affrontano le principali preoccupazioni sulla proliferazione dei deepfake, che a volte portano a perdite finanziarie e di reputazione. Molti sperano che renderà il processo di identificazione e segnalazione dei deepfake più fluido.
Due strumenti mirati alla protezione di musicisti e personaggi pubblici
L'azienda ha spiegato che sta lavorando a due strumenti. Il primo è uno strumento di identificazione della voce cantata che farebbe parte del sistema YouTube Content ID. Questa funzionalità rileva automaticamente i contenuti generati dall'intelligenza artificiale che simulano le voci cantate di altre persone sulla piattaforma e li rimuove automaticamente.
Per il secondo strumento, YouTube sta sviluppando una tecnologia che consente a persone famose come creatori, atleti, musicisti e artisti di rilevare e rimuovere i deepfake dei loro volti sulla piattaforma. L'azienda ha osservato che questi strumenti, insieme ai suoi aggiornamenti sulla privacy e ai termini di servizio, sarebbero sufficienti a salvaguardare i creatori.
Tuttavia, l'obiettivo di YouTube non è impedire alle persone di utilizzare l'intelligenza artificiale sulla sua piattaforma; cerca solo di garantire un uso responsabile dell'intelligenza artificiale e di consentire ai creatori di controllare l'uso della loro immagine.
Diceva:
"Crediamo che l'IA debba migliorare la creatività umana, non sostituirla. Ci impegniamo a lavorare con i nostri partner per garantire che i progressi futuri amplifichino le loro voci e continueremo a sviluppare guardrail per affrontare le preoccupazioni e raggiungere i nostri obiettivi comuni".
Nel frattempo, YouTube non ha fornito una tempistica per quando queste funzionalità saranno disponibili per gli utenti, sottolineando solo che lo strumento di rilevamento della voce cantata necessita ancora di alcuni perfezionamenti, ma che ci sarà un programma pilota entro l'inizio del 2025.
YouTube stuzzica la curiosità con una tecnologia che impedirà l'estrazione di dati tramite intelligenza artificiale
YouTube ha anche lasciato intendere che sta lavorando a uno strumento per impedire alle aziende di intelligenza artificiale di utilizzare i contenuti sulla sua piattaforma per addestrare i propri modelli senza il permesso dei proprietari. Osservando questo come un problema importante, la piattaforma ha affermato che sta investendo in sistemi che rileveranno e impediranno a terze parti di estrarre dati dalla sua piattaforma e violare i suoi Termini di servizio.
Tuttavia, ha riconosciuto che i creatori potrebbero voler collaborare con le aziende di intelligenza artificiale. Pertanto, sta lavorando a modi per consentire ai creatori di YouTube di controllare il modo in cui terze parti utilizzano i loro contenuti sulla piattaforma.
Nonostante la posizione dura di YouTube nei confronti delle aziende di intelligenza artificiale che estraggono i suoi contenuti per addestrare i loro modelli, la piattaforma e la sua società madre, Google, utilizzano questi contenuti per lo stesso scopo, ma nel rispetto dei termini di servizio. Prevede di continuare a utilizzare i contenuti per sviluppare strumenti di intelligenza artificiale in modo responsabile.