Non fate verificare a un'IA il Netanyahu con sei dita

Ci sono periodi in cui la verità svanisce. Ma ciò che è ancora più pericoloso sono i periodi in cui la verità viene soffocata tra immagini false, video e speculazioni. È esattamente ciò che sta accadendo oggi sui social media in un'epoca di guerre, bombardamenti, attacchi missilistici, omicidi, blocchi e chiusure. Da un lato, immagini false generate dall'IA; dall'altro, l'autorità algoritmica, il controllo, la censura e l'emarginazione che rendono invisibili alcuni account. Proprio come nel film Il processo (1962), il dominio degli algoritmi invisibili sui social media ricorda personaggi che, in un ordine kafkiano, vengono puniti senza sapere quale sia il loro crimine. Le politiche sui “contenuti sensibili” delle piattaforme di social media sono spesso difese con motivazioni di sicurezza ed etica. Tuttavia, in pratica, questi filtri sono anche uno strumento di regolamentazione algoritmica che limita la circolazione di determinate narrazioni politiche. Gli account e i post di chi non si allinea o si oppone all'economia politica delle aziende tecnologiche vengono resi invisibili. Con l'etichetta di contenuto sensibile, ciò che è legale e legittimo viene emarginato. Soprattutto su X, molti account di persone, gruppi e partiti anti-imperialisti, anti-capitalisti e anti-sionisti cercano di sopravvivere sulla piattaforma sotto una nebbia algoritmica.

D'altra parte, alcuni video circolati sui social media negli ultimi giorni hanno scatenato un nuovo dibattito: le manipolazioni e le affermazioni sulla morte del primo ministro israeliano Benjamin Netanyahu, e se le immagini condivise per smentire tale notizia siano state generate o meno dall'IA. Sono state avanzate accuse di manipolazione tramite IA basate su dettagli come le sei dita, il volto e le espressioni delle orecchie nelle immagini. Questi video potrebbero essere stati generati dall'IA o meno. Ma il dibattito stesso rivela un problema diverso e più fondamentale: in un panorama mediatico digitale in cui non possiamo più fidarci facilmente di alcuna immagine, cosa sia la verità, come trovarla e come condividerla. La questione è in realtà più grave sotto questo aspetto: l'IA non produce solo immagini false; aumenta anche il sospetto che le immagini reali possano essere false. Così, anche le immagini riguardanti la guerra si trasformano in pochi minuti in una discussione sull'analisi dei pixel, e l'importanza della verità si perde, banalizzandosi tra dettagli tecnici e meme.

La questione della frammentazione della realtà è un dibattito molto antico anche nel cinema. Nel capolavoro del 1952, Rashomon, Akira Kurosawa mostra come lo stesso evento venga raccontato in modi completamente diversi da persone diverse. Ogni testimone crea una realtà diversa in base ai propri interessi e al proprio punto di vista. Anche nei social media di oggi esiste un simile effetto Rashomon. La stessa immagine può trasformarsi in decine di narrazioni diverse nel giro di poche ore. Nel mondo digitale, i verificatori di fatti basati sull'IA possono scegliere come verità assoluta solo quella “più adatta alla struttura di proprietà” e gettare il resto nella spazzatura dei media digitali definendolo “contenuto sensibile” o “disinformazione”. Noi non guardiamo la realtà, ma l'immagine presentata dall'algoritmo con una selettività di classe.

Il protagonista del film The Truman Show (1998) ha capito di vivere in un mondo falso solo quando ha urtato i confini di quel mondo. I nostri meccanismi di verifica della verità e della realtà sono come le pareti del set alla fine di quel mare da cui Truman cercava di fuggire. Gli avvisi di “non verificato” o “estrapolato dal contesto” che appaiono quando mettiamo in discussione l'aggressività di Israele o l'ipocrisia dei media occidentali potrebbero in realtà essere quel cielo dipinto contro cui si è scontrata la barca di Truman. Strumenti come Groke o simili sembrano voler legare la nostra barca, che cerca la verità, a un porto di proprietà delle aziende tecnologiche digitali, dicendoci: “Resta in questa simulazione di realtà che abbiamo approvato”.

Nel film Wag the Dog (1997), mentre si costruiva una guerra in uno studio televisivo per distrarre l'opinione pubblica, la domanda su quale sia la differenza tra l'essere umano e la sua copia, un tempo discussa nella fantascienza, era stata trattata attraverso gli androidi nel film Blade Runner (1982). Oggi, invece, chiediamo all'IA di distinguere tra umano reale, falso o artificiale. José Saramago, nel romanzo “Cecità”, racconta la cecità coscienziale e il collasso morale di una società che, pur avendo occhi per vedere, non vuole vedere la realtà. Mentre discutiamo se Netanyahu sia morto o meno attraverso un video, come i ciechi di Saramago, non riusciamo a vedere la distruzione in guerra e la morte di centinaia di persone. Il nostro bisogno di farci confermare le cose dall'IA ci rende ciechi volontari che non si fidano dei propri occhi. Mentre l'algoritmo ci soffoca in un rumore in cui si discutono dettagli tecnici, la vera tragedia che la nostra coscienza dovrebbe vedere, ovvero gli scopi e gli obiettivi dietro le guerre, ci sfugge.

Nel film Matrix, Morpheus dice a Neo: "Che cos'è la realtà? Se ti riferisci a ciò che puoi sentire, odorare e vedere, allora la realtà non è altro che segnali elettrici interpretati dal tuo cervello". Oggi, la realtà si trasforma in segnali algoritmici provenienti dai proprietari delle piattaforme. D'altra parte, Étienne de La Boétie sosteneva nel XVI secolo che il potere dei tiranni si nutre delle abitudini e del comfort delle persone. Con il concetto di “Servitù volontaria”, egli sottolinea che le persone diventano suscettibili alla manipolazione perché evitano la responsabilità politica che deriva dall'affrontare la realtà. In questo percorso, l'utente, nel suo comfort cognitivo e nella pigrizia della verifica, si accontenta prima di contenuti che non disturbano le proprie opinioni. Successivamente, invece di ricercare o attendere di capire se un video sia reale, nella logica dei social media basata sull'interazione e sulla velocità, lascia il lavoro di verifica a un'altra IA. L'IA e gli algoritmi di verifica, a loro volta, presentano come reale ciò che passa attraverso il filtro di “verità” consentito dalla struttura di proprietà. Così, la responsabilità di interrogarsi sulla verità viene nuovamente delegata alla tecnologia. In questo contesto, la via d'uscita dalle lodi agli F-35 dell'Anadolu Ajansı, dalla censura orientata alla proprietà di X e dal caos visivo creato dall'IA richiede uno sguardo critico di economia politica che vada oltre il cielo disegnato dall'algoritmo.

Qui è necessario porre una domanda semplice ma importante: se il sistema che produce e mette in circolazione un'immagine e il sistema che la verifica fanno parte dello stesso ecosistema tecnologico, quanto può essere indipendente questa verifica? In breve, la tecnologia in cui viene prodotta o può essere prodotta la manipolazione può essere allo stesso tempo lo strumento con cui si verifica la verità? Perché i proprietari effettivi degli algoritmi a scatola nera che formano i filtri dei processi di verifica sono anche le aziende tecnologiche globali, per lo più con sede negli Stati Uniti, che controllano l'infrastruttura economica e tecnica delle piattaforme digitali.

Per questo motivo, non fate verificare a un'IA il “Netanyahu con sei dita” che si sostiene sia stato creato dall'IA. A causa della tecnica di deep learning basata su reti neurali artificiali in competizione, la somiglianza delle immagini create dall'IA con la realtà aumenterà di giorno in giorno. Verranno prodotte nuove manipolazioni. Verranno lanciati sul mercato nuovi strumenti di verifica. Ma la domanda rimarrà la stessa:

Stiamo davvero cercando la verità, o preferiamo vivere e guardare alla vita con la versione che l'algoritmo ci offre?