L'algoritmo che mi ha disegnato male

Di recente, uno dei miei studenti ha trovato una mia foto su internet. Ero in posa, sorridente, con il Ponte sul Bosforo alle spalle. Ha caricato questa foto su un'intelligenza artificiale e le ha chiesto di generare un'immagine che mi ritraesse. Probabilmente le ha anche detto che sono un accademico, dato che sono stato raffigurato con una penna in mano mentre scrivevo qualcosa su un foglio. L'immagine risultante è sorprendentemente buona. Il mio volto mi somiglia in modo impressionante, l'espressione è la mia, la luce e i dettagli sono convincenti. L'ha incorniciata e me l'ha regalata. L'ho ringraziato per questo bel regalo. Poi, guardando l'immagine, ho notato che c'era un errore: tengo la penna con la mano destra. Eppure, io sono mancino e tengo la penna con la mano sinistra.

L'intelligenza artificiale mi ha disegnato male perché non mi conosce in questo modo.

Questo piccolo errore apre una grande questione: perché l'intelligenza artificiale ha commesso un errore del genere e come possiamo correggerlo?

La prima possibilità è il bias algoritmico. Le intelligenze artificiali vengono addestrate con enormi set di dati. In questi set di dati, la maggior parte delle persone usa la mano destra. Pertanto, per il sistema, l'essere umano che tiene una penna è, per impostazione predefinita, destrorso. Il mancinismo, essendo una minoranza, diventa invisibile. Come ha dimostrato Safiya Noble, gli algoritmi non rappresentano il mondo così com'è, ma come appare nella maggioranza dei dati.

La seconda possibilità è la mancanza di informazioni. Poiché l'intelligenza artificiale non possiede informazioni sufficienti su di me, ha scelto l'opzione più probabile. Ha fatto una "educated guess" (ipotesi istruita). Perché questi sistemi sostituiscono la realtà con la probabilità più alta. A questo punto emerge una soluzione allettante: facciamo in modo che gli algoritmi ci conoscano meglio. Che abbiano più informazioni su di noi. Così ci rappresenteranno in modo più accurato. All'inizio non sembra una cattiva idea.

Ma è proprio qui che ci scontriamo con la domanda fondamentale. Perché conoscere non è un atto innocente. Come diceva Foucault, il sapere è sempre una relazione di potere. Come sottolinea Zuboff, questa conoscenza è oggi la materia prima dell'economia della previsione e dell'orientamento comportamentale.

Il sistema che vuole disegnarmi in modo più accurato si trasforma, col tempo, in un sistema che mi prevede meglio, mi orienta meglio e mi gestisce meglio. Come dice Langdon Winner, i sistemi tecnologici non sono solo strumenti, ma stabiliscono norme. L'essere umano che scrive con la mano destra diventa la norma. Gli altri sono l'eccezione. Questo è un piccolo ma istruttivo esempio della violenza epistemica descritta da Spivak. Alcuni soggetti sono sistematicamente rappresentati in modo errato o non rappresentati affatto.

L'immagine che ne risulta è una simulazione. Come diceva Baudrillard, la simulazione non riflette la realtà, la sostituisce. Un "me" che non sono io, ma che mi somiglia, entra in circolazione.

E tutto questo genera un rischio. Come dice Beck, questo rischio non è esterno, ma è insito nel sistema.

Infine, questo processo ha una dimensione emotiva. Volere che l'intelligenza artificiale ci rappresenti correttamente è anche un desiderio di essere compresi correttamente. Come hanno dimostrato Papacharissi e Illouz, anche le emozioni sono oggi un campo gestito e sfruttato.

Ecco perché la questione non si limita a quale mano uso per tenere la penna.

La questione è questa:

Quanto correttamente devono conoscerci gli algoritmi?

Un algoritmo che mi disegna male è fastidioso.

Ma un algoritmo che mi disegna alla perfezione è più pericoloso.

Perché la perfezione è il luogo in cui scompare la distanza.

E a volte, la distanza è più sicura dell'errore.