Esperti preoccupati: il deepfake si sta trasformando in un'arma di inganno di massa?
Circa un quarto della popolazione mondiale si recherà alle urne nel 2024. Crescono i timori che la disinformazione e gli inganni basati sull'intelligenza artificiale possano essere utilizzati per influenzare i risultati elettorali. Gli esperti temono le conseguenze della diffusione di esempi di deepfake. Un'azienda di sicurezza digitale ha analizzato la questione del deepfake, esaminando se si tratti di un'arma di inganno di massa.
12punto
Circa due miliardi di elettori si recheranno ai seggi quest'anno per votare i propri rappresentanti e leader politici. Poiché si terranno elezioni importanti in numerosi Paesi, tra cui Stati Uniti, Regno Unito e India (oltre che per il Parlamento Europeo), questa situazione ha il potenziale di cambiare il panorama politico e la direzione della geopolitica per i prossimi anni e oltre.
Man mano che immagini false, clip audio e video di persone reali diventano più comuni, la possibilità di una disinformazione supportata dall'intelligenza artificiale sta causando una preoccupazione crescente.
Le notizie false hanno dominato i titoli di giornale relativi alle elezioni sin da quando sono diventate un tema centrale durante la corsa alla Casa Bianca nel 2016.
Otto anni dopo, esiste una minaccia indiscutibilmente più grande: una combinazione di disinformazione e deepfake in grado di ingannare persino gli esperti.
REGISTRAZIONE AUDIO ATTRIBUITA A BIDEN
È molto probabile che gli ultimi esempi di contenuti a tema elettorale generati dall'intelligenza artificiale, tra cui una serie di immagini e video fatti circolare prima delle elezioni in Argentina e una registrazione audio manipolata del Presidente degli Stati Uniti Joe Biden, siano precursori di ciò che potrebbe accadere su scala più ampia.
IL WORLD ECONOMIC FORUM SOTTOLINEA IL RISCHIO
L'informazione errata e la disinformazione sono state identificate dal World Economic Forum (WEF) come il rischio globale più significativo per il prossimo periodo. Il problema legato ai deepfake viene definito dal fatto che la tecnologia supportata dall'intelligenza artificiale è ormai diventata economica, accessibile e abbastanza potente da causare danni su larga scala.
Ciò aumenta la capacità di criminali informatici, attori politici malintenzionati e hacktivist di lanciare campagne di disinformazione convincenti e truffe più temporanee e isolate.
Secondo il rapporto del WEF, nei prossimi due anni i contenuti sintetici manipoleranno gli individui, danneggeranno le economie e frammenteranno le società in vari modi.
Strumenti come ChatGPT e l'intelligenza artificiale generativa (GenAI) facilmente accessibile pongono una sfida importante, consentendo a una gamma più ampia di individui di partecipare alla creazione di campagne di disinformazione guidate dalla tecnologia deepfake.
POTREBBE ESSERE UN VANTAGGIO PER I GRUPPI RIVALI
In un processo elettorale, il deepfake può essere utilizzato per minare la fiducia degli elettori in un determinato candidato. Se i sostenitori di un partito politico o di un candidato possono essere opportunamente indirizzati tramite audio o video falsi, questo rappresenterà un guadagno per i gruppi rivali.
Alla base di questa sfida risiede una semplice verità: gli esseri umani tendono a dare valore alla quantità e alla facilità di comprensione quando elaborano le informazioni. Più contenuti vediamo che contengono un messaggio simile, e più è facile comprenderli, maggiore è la probabilità che finiamo per crederci.
Se a questo aggiungiamo il fatto che sta diventando sempre più difficile distinguere i deepfake dai contenuti reali, ci troviamo di fronte a una potenziale ricetta per un disastro democratico.
COSA STANNO FACENDO LE AZIENDE TECNOLOGICHE A RIGUARDO?
Si dice che sia YouTube che Facebook abbiano agito lentamente nel rispondere ad alcuni deepfake volti a influenzare una recente elezione. Ciò è accaduto nonostante una nuova legge dell'UE (Digital Services Act) che impone alle società di social media di prevenire i tentativi di manipolazione elettorale.
OpenAI, dal canto suo, ha annunciato che applicherà le credenziali digitali della Coalition for Content Provenance and Authenticity (C2PA) per le immagini generate da DALL-E 3.
La tecnologia della filigrana crittografica, sperimentata anche da Meta e Google, è stata progettata per rendere più difficile la creazione di immagini false. Tuttavia, questi sono ancora passi da neonati e, mentre la febbre elettorale avvolge il mondo intero, ci sono fondati timori che l'intervento tecnologico contro la minaccia sarà troppo poco e troppo tardi.
Soprattutto quando si diffondono in reti relativamente chiuse come i gruppi WhatsApp o tramite robocall, sarà difficile tracciare e smentire rapidamente audio o video falsi.