I deepfake pornografici hanno ormai invaso il web. Dopo le polemiche che hanno scosso Twitch nelle scorse settimane, gli analisti hanno notato un aumento significativo del traffico verso i siti che ospitano questi video, realizzati senza il consenso delle persone di cui vengono utilizzati i volti. Di recente, un’applicazione che realizza questo tipo di montaggi ha persino fatto pubblicità su Facebook.
“Ieri mi sono imbattuta in questo annuncio e wow, sul serio?” Questo tweet, postato dalla giornalista Lauren Barton lunedì 6 marzo, mostra un video con l’attrice Emma Watson. L’attrice si china mentre guarda la persona che la sta riprendendo, poi la telecamera si interrompe prima che le cose vadano oltre. Anche se non ci sono immagini esplicite sullo schermo, non c’è dubbio che si tratti di un montaggio pornografico.
L’annuncio, che contiene anche una foto dell’attrice quando era ancora minorenne, è in giro da diversi giorni su Facebook, Instagram e Messenger. Promuove FaceMega, un’app che consente di importare il volto di chiunque e di applicarlo a diversi modelli di video. Secondo un’indagine della NBC, nel giro di pochi giorni sono stati mostrati sui social network di Meta non meno di 230 annunci di questo tipo.
L’app deepfake incoraggia al porno su Facebook
FaceMega non dichiara esplicitamente che la sua app può essere utilizzata per effettuare modifiche pornografiche. Tuttavia, l’insinuazione manca di sottigliezza. Oltre all’atteggiamento molto soggettivo delle persone nel video, alcuni annunci si prendono persino la libertà di utilizzare l’audio introduttivo dei video pubblicati su Pornhub. Inoltre, come ricorda NBC News, un rapporto del 2019 ha stimato la quota di modifiche pornografiche nella comunità dei deepfake al 96%.
FaceMega non ha ingannato nessuno, anche se l’app offre tutti i tipi di modelli, con categorie come “Moda” e “Matrimonio”. “Potrebbe essere usato con gli studenti delle scuole pubbliche che sono vittime di bullismo”, avverte Lauren Barton. “Potrebbe rovinare la vita di qualcuno. Potrebbero finire nei guai al lavoro. È estremamente facile da fare e gratuito. Mi è bastato caricare una foto del mio viso per avere accesso a 50 modelli gratuiti”.
L’app è apparsa nel 2022 su App Store e Google Play. Ora costa 8 dollari a settimana, ma inizialmente consentiva di eseguire deepfakes gratuitamente. Nei suoi termini e condizioni, afferma che può essere utilizzata da bambini dai 9 anni in su, ma specifica che non consente la pubblicazione di video pornografici.
Dopo le polemiche, l’ascesa dei deepfake porno
Contattata dalla NBC, Apple ha dichiarato che la politica dell’App Store non vieta la pubblicazione di deepfake, ma che tutti i contenuti pornografici e diffamatori saranno banditi dalla piattaforma. Da parte sua, Google ha dichiarato di aver rimosso l’app dal Play Store. Apple ha fatto lo stesso. Ma FaceMega è solo la punta di un iceberg molto più grande.
Secondo l’analista Genevieve Oh, nelle ultime settimane il traffico verso i siti web specializzati in deepfake pornografici è letteralmente esploso. Si era già parlato di questa piattaforma che ha visto la sua popolarità impennarsi in pochi mesi. Oggi ne sono nate decine di altre. Una semplice ricerca di “deepfake” nei negozi di app produce numerosi risultati.
Questo fenomeno non è casuale. All’inizio dell’anno, una controversia sui deepfake ha scosso la sfera di Twitch, dopo che uno streamer ha trasmesso montaggi pornografici di streamer famosi, come Maya Higa o Pokimane. Sebbene l’atto sia stato ripetutamente condannato dalla comunità, è chiaro che la controversia ha permesso a molte persone di scoprire questo mezzo. Secondo Genevieve Oh, il numero di deepfake pornografici su Internet è raddoppiato dal 2018, e febbraio è stato il mese più prolifico della storia.
