fbpx

DEEPFAKE, LA MODA DEVASTANTE DEI FALSI PORNO VIDEO.

Federico Bergaminelli

19/10/2020

 

Tratto da “Polis Magazine”, ed. online del 04.10.2020

 

Nota del #Lexamp News Team - Riproponiamo anche su queste pagine un recente commento del Prof. Avv. Federico Bergaminelli, sul tema del deepfake: una tecnica basata sull’intelligenza artificiale, che permette di combinare o sovrapporre delle immagini per creare un video, falso ma perfettamente credibile..

 

*   *   * 

 

Revenge porn, umiliazione pubblica, diffusione di nudi integrali. Ora la violenza sulle donne si esercita anche con la tecnica del “deepfake”: una situazione destinata a peggiorare nel futuro.

Chissà se Hermione Granger, al secolo Emma Watson, interpretando nel 2001 “Harry Potter e la pietra filosofale” avrebbe mai immaginato che, nel 2020, sarebbe stata oggetto di uno sconcertante episodio di porno deepfake, visionato – in una manciata di giorni – ben 23 milioni di volte.

È proprio ciò che le è accaduto lo scorso mese di giugno.

Il deepfake è quella tecnica basata sull’intelligenza artificiale che permette di combinare o sovrapporre delle immagini per creare un video falso, ma perfettamente credibile.

Tutto ha inizio su Reddit (un social news aggregator, un misto di piattaforma di discussione e distributore di link, diviso in forum), quando un utente denominato “deepfakes” ha cominciato a portare sul sito immagini di film, in cui il volto degli attori veniva sostituito da quello di altre persone. Utilizzando strumenti di apprendimento automatico e programmi open source, l’utente ha presto raccolto l’attenzione di molti e soprattutto del sito Motherboard – Vice (sito web di notizie) che gli ha dedicato un articolo a dicembre dell’anno scorso.

Parliamo di un fenomeno allarmante che genera, ogni mese, oltre 1000 “fotomontaggi” pubblicati sui più grandi siti internet porno del pianeta, pagine con visualizzazioni da record  e, tanto per intenderci, stiamo parlando di siti internet che, in termini di visitatori, nella classifica degli indirizzi più frequentati al mondo, sono secondi solo a Google, YouTube, Facebook, Twitter e Instagram, ed in alcuni casi hanno addirittura più visite di Wikipedia, Yahoo o Amazon.

Questi dati sono tratti da uno studio effettuato da Sensity, che è stato, tra l’altro, commentato con dolore dal collega Guido Scorza, oggi componente dell’Autorità Garante Privacy Italiana, in un suo recente post.

Su 14.678 video deepfake trovati in rete, il 96% è composto da materiale pornografico.

Non sono solo le fake-news il principale problema (almeno per ora), ma lo sfruttamento dell’immagine della donna.

Immaginate lo sconforto per l’universo femminile, perché – ovviamente – il fenomeno è totalmente “dedicato” alle donne: accorgersi, d’improvviso, che il proprio volto sia stato ritagliato ad hoc, sul corpo di una porno star e sparato nell’universo dei siti porno. Un’autentica violenza sessuale con conseguenze sulla sua vita, probabilmente, comparabili.

E’ verosimile che sui milioni di bramosi frequentatori pornofili che penseranno di riconoscere un volto, noto per ben diverse ragioni, in quella scena di sesso, molti si faranno – poco conta se a torto o a ragione – un’idea su di lei che semplicemente non corrisponde alla realtà.

Pochi, ovviamente, le diranno di averla vista su un sito porno e pochissimi, anche quando lei provasse a spiegare che si tratta di un fotomontaggio per quanto irriconoscibile, le crederanno davvero.

E la sua vita sarà, in molti casi, distrutta. Il suo futuro compromesso perché quelle immagini, presumibilmente, continueranno a galleggiare sul web per sempre.

Lo studio di Sensity è assolutamente pessimista circa la possibilità di combattere con successo questo fenomeno sconvolgente e dilagante: la tecnologia per la realizzazione dei porno deep fake – a cominciare da quelli a sfondo sessuale – è sempre più abbordabile.

Va detto, però, che i gestori dei siti porno, seppur con sensibilità e impegno diversi, stanno adottando rimedi utili, almeno a garantire alla vittima di poter chiedere ed ottenere – qualora se ne accorga – la rimozione del video o delle immagini, in tempi brevi.

Ma tutto ciò, sarà sufficiente?

Prima che la malcapitata si renda conto di essere stata oggetto di questo stravolgimento della sua persona, il video sarà stato visualizzato e diffuso lungo centinaia di migliaia di rivoli digitali.

A questo punto viene di chiedersi: quanto ci metteremo a fare i conti con una vittima adolescente alla quale l’ex fidanzato di turno, o un gruppo di compagni di scuola, decideranno di fare un “dispetto” di pessimo gusto e dalle conseguenze drammatiche, magari, senza neppure rendersene conto?

Non c’è tempo da perdere e, soprattutto, come talvolta accaduto, non ci si può lasciare fermare dalla natura pruriginosa del fenomeno, della pornografia, del mercato di riferimento.

I gestori dei siti porno sono, ormai, autentiche multinazionali del web che vanno trattate alla stessa stregua di Google, Facebook, Apple, Amazon o Twitter.

E da loro che va preteso che installino sistemi di riconoscimento automatico dei deep fake – che, ormai, iniziano a diffondersi – almeno per segnalare il carattere sospetto di un video in fase di upload da parte dell’utente, innanzitutto all’utente stesso che potrebbe essere inconsapevole del fake o, magari, comunque, pensarci due volte prima di violentare una donna via web.

E poi, naturalmente, ai moderatori perché verifichino ed eventualmente blocchino la pubblicazione del contenuto.

Ribadisco quanto espresso in precedenti post: è indispensabile dotarci di leggi che puniscano in maniera esemplare i novelli violentatori sessuali digitali.

In Italia, ad esempio, abbiamo finalmente una buona legge sul revenge porn ma è difficile, stante il sacrosanto principio di tassatività del diritto penale, applicarla all’ipotesi nella quale a finire online è un fotomontaggio; una legge che va sicuramente rivisitata alla luce del fenomeno qui commentato e che si proponga come “aperta” alla stigmatizzazione di fenomeni similari.

L’educazione, la cultura dei diritti della persona anche nella sua dimensione digitale, il confronto a scuola, in famiglia e in università, deve fare la differenza.

Mi piace concludere con un invito: aiutatemi a realizzare un sogno!

Portiamo in giro per l’Italia una riflessione dedicata al “lato oscuro del web e dei social media”, proprio per rendere tutti maggiormente consapevoli: i genitori, gli insegnanti, i nostri figli, gli educatori, tutti coloro che “dipendono” dallo strapotere della digital comunication…


TORNA ALLE NEWS

Pin It

© 2020 AMALGAMA SRL. ALL RIGHTS RESERVED. P.IVA: 14601861009 POWERED BY PLFWARE