GoPlus Security Research: l’effetto spada a doppio taglio della tecnologia AI che cambia volto!
Negli ultimi anni, con il rapido sviluppo della tecnologia dell'intelligenza artificiale, una tecnologia chiamata "cambiamento del volto dell'intelligenza artificiale" è gradualmente diventata visibile al pubblico. Le origini di questa tecnologia possono essere fatte risalire al 2017, quando Supasorn Suwajanakorn, ricercatore presso l'Università di Washington, e altri lanciarono un progetto chiamato "Synthesizing Obama" attraverso la tecnologia di deep learning. In questo progetto, hanno modificato con successo un videoclip di Barack Obama per fargli pronunciare parole da una nuova traccia audio che non aveva nulla a che fare con il video. Il nucleo di questa tecnologia risiede nell'applicazione completa della rete neurale ricorrente (RNN) e della tecnologia di sintesi orale. L'effetto è così realistico che l'audio e i movimenti della bocca nel video sono quasi indistinguibili.
Con l'avvento di questa tecnologia sono sorti vari video e comunità. Un gran numero di produttori di video hanno iniziato a utilizzare la tecnologia di cambio volto dell'intelligenza artificiale per aggiungere vari effetti speciali complessi e tecnologia di super risoluzione ai loro lavori, facendo sembrare reale la qualità del loro lavoro. Questi video sono ampiamente diffusi su YouTube, Instagram, TikTok e altre piattaforme. Secondo le statistiche, il numero totale di visualizzazioni di video relativi ai Deepfake ha superato i 10 miliardi di volte. Alcuni produttori di video di alta qualità hanno addirittura superato il milione di visualizzazioni per un singolo video.
Tuttavia, dietro questa mania, dobbiamo anche stare attenti ai possibili danni causati dalla tecnologia dell’intelligenza artificiale che cambia volto. La serie DeepFaceLab, il software di cambio volto di maggior successo nella comunità open source, è uno dei rappresentanti. Sviluppato da Ivan Perov e Daiheng Gao, tra gli altri, questo software ha più di 66.000 stelle GitHub ed è uno dei primi dieci progetti open source AI nel 2020, insieme a giganti come Tensorflow e PyTorch. Vale la pena ricordare che Daiheng Gao è anche un consulente AI per GoPlus, specializzato nella ricerca sulla prevenzione dell'abuso tecnologico.
Sebbene la tecnologia dell’intelligenza artificiale ci abbia offerto esperienze creative e di intrattenimento senza precedenti, dobbiamo anche renderci conto che questa tecnologia può essere utilizzata anche per scopi dannosi. Ad esempio, sostituendo le immagini facciali nei video, i criminali possono creare falsa propaganda politica, contenuti pornografici o attacchi dannosi contro altri.
Pertanto, il team GoPlus invita il grande pubblico a prestare attenzione quando si utilizza la tecnologia di cambio volto dell’intelligenza artificiale e ad evitare di utilizzarla per scopi illegali o dannosi.