L'inquietante verità sui video porno deepfake pubblicati senza consenso

Un test condotto da NBC News mette in luce quanto i motori di ricerca siano vulnerabili di fronte al fenomeno della pornografia deepfake.

Nei dettagli riportati da Chip, i motori di ricerca Bing, Google e DuckDuckGo sono stati oggetto di pesanti critiche per aver posizionato la pornografia deepfake, creata tramite intelligenza artificiale e priva di consenso, in cima ad alcuni risultati di ricerca. Queste critiche giungono in seguito alla pubblicazione di un servizio di NBC News che evidenzia alcune preoccupazioni riguardanti l'accessibilità alla pornografia generata dall'intelligenza artificiale.

IL FENOMENO DEEPFAKE È FUORI CONTROLLO

I video deepfake osceni vengono creati utilizzando materiale pornografico originale e sostituendo il volto degli attori (spesso attrici) con quello di una persona reale specifica (ad esempio una celebrità). Questa sostituzione viene eseguita automaticamente dall'intelligenza artificiale ed è sufficiente che l'utente che crea le immagini false fornisca all'IA le foto della vittima.

Secondo i test condotti da NBC News su un campione di 36 celebrità femminili, utilizzando il nome dell'attrice combinato con il termine "deepfake", Bing e Google hanno mostrato video e immagini deepfake tra i primi risultati di ricerca in quasi tutti i casi. Google ha fornito 34 risultati di questo tipo nelle prime posizioni, mentre Bing ne ha forniti 35. NBC News ha segnalato che anche DuckDuckGo presenta problemi simili, senza però specificarne l'entità.

Inoltre, NBC News ha lamentato il fatto che articoli e notizie riguardanti il problema della pornografia deepfake non consensuale vengano mostrati in posizioni inferiori rispetto ai contenuti inappropriati quando si cerca il termine "falsi nudi". È comunque opportuno notare che NBC News ha ammesso di aver effettuato le ricerche dopo aver disattivato le funzioni di sicurezza di Bing e Google che impediscono all'utente di visualizzare contenuti osceni.

Nonostante questo piccolo dettaglio, si può facilmente affermare che la facilità di accesso alla pornografia supportata dall'intelligenza artificiale rappresenti un problema significativo e che chiunque cerchi tali contenuti probabilmente disattiverà le funzioni di protezione integrate. I contenuti deepfake osceni non consensuali sono illegali per natura e, pertanto, rientrano tra le tipologie di contenuti che Microsoft, Google e altri devono affrontare.

COSA SI PUÒ FARE CONTRO I DEEPFAKE?

Il modo più semplice, o probabilmente il primo passo temporaneo, per implementare misure tecnologiche più avanzate potrebbe essere quello di rimuovere dai risultati di ricerca o vietare completamente i siti web noti per la pubblicazione di tali contenuti. Come riportato da NBC News, poiché oltre la metà dei migliori risultati dei loro test consisteva in link a un popolare sito web di deepfake o a un suo concorrente, un passo del genere potrebbe ridurre significativamente la natura dannosa dei risultati di ricerca attuali.

Microsoft è stata l'unica azienda a non rispondere alla richiesta di commento di NBC News. Un portavoce di DuckDuckGo ha dichiarato che la sua fonte principale per i link web e i risultati delle immagini è Bing. Inoltre, DuckDuckGo offre anche modi per inviare richieste relative alla privacy, come ad esempio la richiesta di rimuovere un determinato contenuto dalla ricerca.

Anche Google offre un'opzione simile per le vittime di deepfake, ma NBC News, citando esperti e attivisti, sostiene che ciò non sia sufficiente. Inoltre, è possibile che le vittime, a cui viene chiesto di inviare URL contenenti materiale sensibile per l'esame, possano subire ulteriori danni durante questo processo.