Pornografia e frasi mai dette: tutti i pericoli dei deep fake

deep fake
(Shutterstock)
Share

I deep fake rischiano di creare immenso traffico sui social media e portare sulle scrivanie degli avvocati una montagna di lavoro. Ideata quattro anni fa, questa tecnologia diventa sempre più semplice da adottare e contribuisce a rendere virali i contenuti. Per mettere il nostro volto sul corpo di Cristiano Ronaldo, insomma, non occorre più l’aiuto del solito amico nerd. In un’inchiesta realizzata da Reuters si spiega: “Queste app offrono agli utenti la possibilità di creare media generati dall’intelligenza artificiale”. Creare un deep fake, dunque, diventa facile come un gioco.

Nonostante le raccomandazioni degli sviluppatori, che invitano a non creare contenuti offensivi, violenti o illegali, i deep fake sono uno strumento molto pericoloso nelle mani dei “leoni da tastiera”. Alcune app sono già state usate per far pronunciare a politici e celebrità frasi che non hanno mai detto nella realtà. Sugli store abbondano le app dedicate a questi effetti video, che nel frattempo sono diventati molto raffinati: è difficile, ormai, distinguere un video fake da uno reale. 

Le app di deep fake e la pornografia

Sugli store di iPhone e Android sono disponibili decine di app di deep fake. Tante sono a pagamento e offrono soluzioni più complesse, ma anche alcune di quelle gratuite fanno il lavoro egregiamente. Reface è una delle più gettonate e consente la realizzazione di deep fake in formato gif, cioè brevi animazioni. Jiggy è diventata molto popolare perché permette di innestare le facce degli utenti su rockstar o celebrità della danza. Zao è stata realizzata in Cina e ha scalato subito le classifiche dei download per la velocità con cui realizza i deep fake.

All’orizzonte c’è il problema della pornografia. L’avvocato Adam Dodge, che ha fondato la società di sicurezza online EndTab, ha detto alla Reuters: “Se la soglia di difficoltà si abbassa oltre un certo livello, tutti possono creare un video porno non consensuale e molto sofisticato”. La società di ricerca Sensity ha rilevato che i contenuti pornografici rappresentano il 96% dei 14mila deep fake analizzati da un recente studio.

La pubblicità

Le concessionarie di pubblicità che vendono click sfruttando l’enorme traffico creato dai deep fake sono piuttosto prudenti. Possiamo citare il caso di ExoClick: “È un contenuto web completamente nuovo per noi”, spiega in un’intervista alla Reuters il direttore della concessionaria. “Siamo attratti dal volume di traffico, ma troviamo quello dei deep fake un terreno poco conforme alle regole di marketing”.

La Apple, che mette a disposizione nei suoi store un grande volume di app per video deep fake, dice che ci sono regole specifiche per questi particolari video. Valgono le linee guida tradizionali: “Niente contenuti diffamatori, discriminatori o che potrebbero umiliare, intimidire o danneggiare qualcuno”.

Per altri contenuti iscriviti alla newsletter di Forbes.it Iscriviti