Cos'è un Deepfake?
Il termine “deepfake” è un processo tecnologico che crea media sintetici molto realistici, solitamente sotto forma di suoni, foto o video, utilizzando l’intelligenza artificiale (AI), in particolare algoritmi di deep learning e reti generative avversarie (GAN). I deepfake sono in grado di produrre informazioni completamente nuove e spesso fuorvianti manipolando o sovrapponendo contenuti visivi e audio preesistenti, grazie all’addestramento di questi algoritmi su big dataset.
Con l'uso di questa tecnologia, volti, voci e altre caratteristiche distintive possono essere alterati senza soluzione di continuità per creare rappresentazioni realistiche che possono essere difficili da distinguere dal materiale autentico. I deepfake sono utili per l’arte, l’intrattenimento e l’istruzione, ma comportano anche seri rischi in termini di diffusione di informazioni false, violazione della privacy e magari utilizzo per screditare le persone.
Foto: Vimeo
Con la crescente popolarità della tecnologia deepfake, stanno emergendo più piattaforme per creare questi video e immagini alterati. Di seguito è riportato un elenco di piattaforme deepfake popolari, che dimostrano la gamma di questa tecnologia, dal semplice scambio di volti in GIF alla manipolazione video avanzata, riflettendo la versatilità e i potenziali utilizzi dei deepfake.
App per il viso
Nota per le sue funzionalità di trasformazione del viso, FaceApp consente agli utenti di applicare vari filtri per modificare il proprio aspetto, ad esempio invecchiando o cambiando genere, offrendo un'interfaccia intuitiva.
ESSI
Un'app cinese di deepfake che ha attirato l'attenzione per la sua capacità di sostituire i volti nei videoclip in modo rapido e con elevata precisione. ZAO fornisce agli utenti strumenti semplici per creare deepfake personalizzati.
Rifatelo
Un'app mobile progettata per scambiare volti in brevi videoclip e GIF. Reface offre un'ampia gamma di contenuti, tra cui scene di film popolari e immagini di celebrità, rendendo facile la creazione di contenuti divertenti.
Laboratorio DeepFace
Una piattaforma più avanzata per la creazione di deepfake, DeepFaceLab è open source e progettata per utenti esperti che desiderano creare progetti deepfake complessi. Consente la manipolazione dettagliata dei volti nei video.
Wombo
Specializzata nel lip-syncing, Wombo consente agli utenti di creare video in cui i volti vengono animati per cantare o parlare. Questa piattaforma è ampiamente utilizzata per creare contenuti divertenti e divertenti.
Deepfake Web
Un servizio basato sul web, Deepfakes Web è progettato per essere facile da usare. Gli utenti possono caricare video e immagini per generare contenuti deepfake senza dover avere competenze tecniche avanzate.
Studio Deepfake
Una piattaforma completa per la creazione di video deepfake, Deepfake Studio offre una varietà di strumenti per lo scambio di volti e la manipolazione di contenuti video. Si rivolge sia ai principianti che agli utenti più esperti.
I deepfake rappresentano un rischio?
In effetti, è piuttosto facile ottenere la tecnologia necessaria per generare deepfake, e c'è una grande probabilità che venga abusata per disinformazione, disinformazione politica, imitazione dei social media e criminalità. Gli attori delle minacce e altri criminali possono usare questo materiale falso, tra le altre cose, per fabbricare storie, minacciare le persone o spacciarsi per persone note per commettere frodi o danneggiare la reputazione delle persone.
I casi pratici dei deepfake dannosi
Tom Cruise fa finta di niente
I video deepfake di Tom Cruise su TikTok sono tra i più noti e accattivanti esempi di media prodotti artificialmente. Milioni di persone hanno guardato questi video, in cui il volto di Cruise è stato posizionato con precisione sul fisico di un'altra persona per creare contenuti inquietantemente realistici.
Messaggio di servizio pubblico di Obama con Jordan Peele
Il regista e comico Jordan Peele ha collaborato con BuzzFeed per produrre un video in cui ha dato voce all'ex presidente Barack Obama. Il deepfake ha evidenziato i possibili rischi nella sfera politica dimostrando quanto fosse semplice produrre materiale falso utilizzando media artificiali.
Mark Zuckerberg Deepfake come commento sociale
Il video del CEO di Facebook Mark Zuckerberg è stato realizzato dall'artista Bill Posters per dimostrare quanto facilmente i social media possano essere sfruttati. Nel deepfake, Zuckerberg ha parlato della proprietà di Facebook dei dati degli utenti, richiamando l'attenzione sulla disputa sulla gestione del materiale fuorviante da parte dell'azienda.
Truffe sulle criptovalute
I deepfake sono ampiamente utilizzati anche nello spazio crittografico. Ad esempio, il 7 febbraio 2024, la pagina Twitter di CertiKSkynetAlert ha pubblicato un avviso su una truffa con il deepfake di Vitalik Buterin:
#CertiKSkynetAlert Abbiamo visto un deepfake di @VitalikButerin utilizzato per promuovere un prosciugatore di portafogli. Il sito truffa è strnetclaim[.]cc. Un'immagine del video può essere vista qui sotto pic.twitter.com/R8AY5CVOea
— CertiK Alert (@CertiKAlert) 7 febbraio 2024
Esistono modi per fermare l'uso dei deepfake?
Le tecnologie che possono identificare i deepfake o consentire la verifica di materiale reale possono essere utilizzate per contrastare i deepfake dannosi. I media falsi possono essere riconosciuti dalla tecnologia di rilevamento senza richiedere il confronto con il materiale originale non alterato. L'apprendimento automatico è un tipo di IA che viene frequentemente utilizzato da queste tecnologie. I dati provenienti da fonti di media reali e fraudolente affidabili vengono utilizzati per addestrare gli algoritmi. Tra le tecniche vi sono irregolarità del viso o della voce, segni del processo di creazione di deepfake e variazioni di colore.
Il post Il lato oscuro dei deepfake: come gli attori malintenzionati usano i media sintetici per manipolare e ingannare è apparso per la prima volta su Metaverse Post.