YouTube vyvíjí nástroje pro detekci používání verzí hlasu nebo fyzických podobizen uživatelů generovaných umělou inteligencí ve videích bez jejich souhlasu. V dnešním oznámení platforma vlastněná společností Google uvedla, že tyto nástroje budou chránit tvůrce na její platformě.
Oznámení je vítaným vývojem, protože nástroje řeší hlavní obavy týkající se šíření deepfakes, které někdy vedou k finančním ztrátám a ztrátám dobré pověsti. Mnozí doufají, že díky tomu bude proces identifikace a hlášení deepfakes hladší.
Dva nástroje se zaměřují na ochranu hudebníků a veřejných osob
Společnost vysvětlila, že pracuje na dvou nástrojích. První je nástroj pro identifikaci zpěvu a hlasu, který by byl součástí systému YouTube Content ID. Tato funkce automaticky detekuje obsah generovaný AI simulující zpěv ostatních lidí na platformě a automaticky je odstraňuje.
Pro druhý nástroj YouTube vyvíjí technologii, která umožňuje populárním lidem, jako jsou tvůrci, sportovci, hudebníci a umělci, detekovat a odstraňovat hluboce falešné tváře na platformě. Společnost poznamenala, že tyto nástroje spolu s jejími aktualizacemi ochrany osobních údajů a smluvními podmínkami budou stačit k ochraně tvůrců.
Cílem YouTube však není zabránit lidem v používání umělé inteligence na jeho platformě; pouze se snaží zajistit zodpovědné používání AI a umožnit tvůrcům kontrolovat používání jejich podobizny.
Stálo tam:
„Věříme, že umělá inteligence by měla posilovat lidskou kreativitu, nikoli ji nahrazovat. Jsme odhodláni spolupracovat s našimi partnery, abychom zajistili, že budoucí pokroky posílí jejich hlasy, a budeme pokračovat ve vývoji mantinelů, které řeší obavy a dosahují našich společných cílů.“
Mezitím YouTube neuvedl časovou osu, kdy budou tyto funkce uživatelům k dispozici, pouze poznamenal, že nástroj pro detekci hlasu zpěvu ještě potřebuje doladit, ale na začátku roku 2025 by měl existovat pilotní program.
YouTube vylepšuje technologii, aby zabránila škrábání dat AI
YouTube také naznačil, že pracuje na nástroji, který zabrání společnostem s umělou inteligencí používat obsah na své platformě k výcviku svých modelů bez svolení vlastníků. Platforma to viděla jako hlavní problém a uvedla, že investuje do systémů, které budou detekovat a blokovat třetí strany ve stahování dat z její platformy a porušování jejích podmínek služby.
Připustil však, že tvůrci mohou chtít spolupracovat se společnostmi využívajícími umělou inteligenci. Proto pracuje na způsobech, jak umožnit tvůrcům YouTube kontrolovat, jak třetí strany využívají jejich obsah na platformě.
Navzdory tvrdému postoji YouTube proti společnostem s umělou inteligencí, které seškrabují jeho obsah, aby trénovaly své modely, platforma a její mateřská společnost Google používají tento obsah ke stejnému účelu, ale v souladu s podmínkami služeb. Plánuje i nadále používat obsah k zodpovědnému vývoji nástrojů AI.