Nuovo imperialismo-4: Singularity/Singolarità - Chi sarà l'ultimo imperatore?

Abbiamo percorso una lunga strada in tre articoli.

In una luce crepuscolare, cerchiamo di comprendere l'oggi e di prevedere il domani.

Abbiamo analizzato la nuova forma assunta dal capitalismo nell'era digitale, la natura della guerra algoritmica, il potere della tecno-borghesia, il tecno-fascismo e le obiezioni che vi si oppongono.

Il “nuovo imperialismo”, che detiene il controllo della tecnologia e dell'Intelligenza Artificiale, sta conquistando il mondo e l'essere umano a ondate.

Ma sullo sfondo di tutte queste discussioni c'è una domanda che cresce silenziosamente. Una domanda che finora abbiamo trattato solo come una nota a piè di pagina:

Cosa succederà se l'Intelligenza Artificiale, di cui oggi vediamo molti benefici, un giorno supererà l'essere umano?

(Funzioni dell'Intelligenza Artificiale?)

***

Ray Kurzweil, direttore dell'Intelligenza Artificiale di Google, uno dei giganti dei dati, e futurista, fornisce una data concreta per questa domanda, avvalendosi delle opinioni dello scrittore di fantascienza Vernor Vinge: il 2045.

Le previsioni di questo scienziato, laureato al MIT (Massachusetts Institute of Technology), autore per decenni di libri che hanno predetto il futuro dell'IA e vincitore della Medaglia Nazionale per la Tecnologia degli Stati Uniti, vengono prese sul serio. Perché gran parte di esse si è rivelata corretta.

Secondo Kurzweil, in quella data si verificherà la "Singularity" (singolarità). L'Intelligenza Artificiale supererà l'intelligenza umana e, successivamente, migliorando costantemente se stessa, raggiungerà una velocità che l'umanità non potrà prevedere.

Il termine "Singularity" deriva in realtà dalla fisica. Al centro dei buchi neri, il punto in cui si presume che le leggi della fisica a noi note crollino è chiamato "singolarità".

 Attorno al buco nero esiste anche un "orizzonte degli eventi": nulla di ciò che supera questo confine — nemmeno la luce — può tornare indietro. 

(SINGULARITY/SINGOLARITÀ in fisica)

Anche l'analogia della Singolarità nel dibattito sull'Intelligenza Artificiale nasce da qui. Quando emergerà un'Intelligenza Artificiale che supera l'intelligenza umana e migliora se stessa, anche l'umanità avrà superato una soglia simile.

 Da quel momento in poi, le regole del vecchio mondo potrebbero perdere validità; perché non sarà più l'uomo a determinare la velocità e la direzione del gioco, ma un'intelligenza che supera l'uomo.

Questa non è solo una previsione tecnica; è una soglia che definisce la trasformazione più profonda della storia umana.

Perché finora, nella storia, tutto ha ruotato attorno alla capacità decisionale dell'uomo. Imperialismo, guerra, potere, sfruttamento. Tutto.

La Singolarità frantuma questo asse.

Ebbene, chi diventerà cosa a quella soglia?

(Ray Kurzweil e il suo libro “La singolarità è vicina”)

***

Guardiamo innanzitutto alla dimensione tecnica della Singolarità.

L'Intelligenza Artificiale esiste oggi in due categorie fondamentali: "IA Stretta" e "IA Generale".

L'"IA Stretta" (Artificial Narrow Intelligence - ANI) svolge un compito specifico meglio di un essere umano. Gioca a scacchi, identifica immagini, traduce lingue, definisce obiettivi.

L'"IA Generale" (AGI — Artificial General Intelligence), invece, è un sistema in grado di fare tutto ciò che può fare un essere umano, capace di passare da un argomento all'altro come un uomo, di imparare e di adattarsi.

Non esiste ancora, ma si sta avvicinando rapidamente.

La Singolarità è il punto in cui si va oltre l'AGI.

È la soglia in cui l'Intelligenza Artificiale non si limita a imitare l'uomo, ma lo supera e gestisce ormai la propria evoluzione.

Nel 2023 GPT-4 e Claude, nel 2024 altri avanzati “modelli linguistici”, nel 2025-2026 sistemi in grado di elaborare simultaneamente testo, immagini, audio e video, ovvero in grado di stimolare più sensi contemporaneamente: ogni passo avvicina un po' di più a questa soglia.

L'ANI è perfetta in un singolo campo; ma quando l'argomento cambia, ricomincia da zero.

L'AGI, invece, analizza un documento legale al mattino, compone un brano musicale nel pomeriggio, interpreta una ricerca medica la sera. Proprio come un essere umano. Quando l'argomento cambia, non si blocca, non ricomincia da zero, mantiene il contesto. Non è ancora avvenuto. Ma i ricercatori corrono esattamente verso questo obiettivo.

E oltre a ciò c'è l'ASI (Artificial Super Intelligence — Superintelligenza Artificiale). Che supera l'essere umano migliore in ogni campo; e che, per giunta, non ha bisogno dell'uomo per svilupparsi. 

Oggi sono gli esseri umani a sviluppare l'Intelligenza Artificiale: gli uomini determinano come deve pensare, gli uomini correggono i suoi errori, gli uomini progettano la sua nuova versione.

L'ASI inverte questa equazione. Una mattina esamina il proprio codice, riscrive la parte che funziona in modo inefficiente. La nuova versione è un po' più intelligente della precedente. Questa versione più intelligente esamina di nuovo se stessa, trova il difetto successivo, corregge anche quello. E così via. Ad ogni turno, un sistema più intelligente del precedente progetta quello successivo. Questo viene chiamato 'esplosione di intelligenza'. 

E una volta iniziata, non rimane una velocità che l'uomo possa seguire o fermare. Questo è ciò che sta oltre la Singolarità.

L'ANI fa un solo lavoro, l'AGI fa ogni lavoro, l'ASI fa ogni lavoro meglio dell'uomo. La Singolarità è il punto di rottura creato da questa catena. 

L'AGI raggiunge l'uomo, l'ASI supera l'uomo.

Quando l'intelligenza umana viene superata, non è più possibile per l'uomo stare al passo con questa Superintelligenza Artificiale (ASI). 

La Singolarità definisce ormai questa soglia da cui non si torna indietro. 

L'AGI e l'ASI sono fasi tecniche; la Singolarità è il nome della rottura storica che queste fasi creano nell'ordine dell'umanità.

Perché da quel momento in poi, non saranno più gli esseri umani a determinare la velocità e la direzione della tecnologia, ma sistemi che superano l'uomo; tutto potrebbe sfuggire al controllo umano.

(Lo sviluppo dell'Intelligenza Artificiale)

***

Kurzweil non è solo nella sua previsione sulla Singolarità.

Il pensatore svedese Nick Bostrom, professore di filosofia presso la prestigiosa Università di Oxford nel Regno Unito, sostiene che il superamento di questa soglia da parte dell'Intelligenza Artificiale rappresenti il più grande rischio esistenziale per l'umanità.

Demis Hassabis, scienziato britannico e fondatore di DeepMind, il laboratorio di ricerca sull'IA di Google, ritiene invece che l'AGI, ovvero l'"Intelligenza Artificiale Generale", possa realizzarsi prima della previsione di Kurzweil, entro dieci anni. Ovvero tra il 2030 e il 2035.

(Nick Bostrom: Superintelligenza e la fine dell'era umana?)

Il dibattito attorno a queste previsioni si sta facendo sempre più acceso. Sam Altman, fondatore di OpenAI (ChatGPT), afferma che l'AGI è possibile entro questo decennio e che si tratta della tecnologia più trasformativa che l'umanità abbia mai affrontato. 

Geoffrey Hinton, scienziato britannico noto come il padre del "deep learning" e il 'Dio' dell'Intelligenza Artificiale, avverte oggi con preoccupazione: questo processo sta procedendo molto più velocemente del previsto e potrebbe raggiungere dimensioni pericolose.

(Geoffrey Hinton, uno dei leader dell'IA: Reti neurali per l'apprendimento automatico)

D'altra parte, non tutti condividono questa aspettativa ottimistica o preoccupata. Yann LeCun, direttore dell'IA di Meta (proprietaria di Facebook), la pensa diversamente. 

Sostiene che l'attuale "architettura dei modelli linguistici", ovvero la struttura fondamentale di come viene progettata un'IA, come elabora le informazioni e come le produce, non sia sufficiente per l'AGI, ovvero per un'IA in grado di svolgere ogni lavoro che fa l'uomo, e che, a meno che non venga fornito un approccio radicalmente nuovo, la Singolarità rimarrà solo una leggenda.

L'obiezione di LeCun non è priva di fondamento. 

I sistemi di IA odierni, ChatGPT, Claude, Gemini, DeepSeek, funzionano tutti con la stessa logica di base: memorizzano schemi leggendo miliardi di testi, poi imitano quegli schemi. Memorizzare non è la stessa cosa che comprendere. Se chiedi a un bambino 'cosa succede se un bicchiere cade dal tavolo?', lui sa che si romperà senza aver mai letto le leggi della fisica, perché ha vissuto il mondo con le sue mani, i suoi occhi, il suo corpo. L'IA odierna, invece, lo indovina solo perché l'ha visto nei testi. Non comprende veramente.

Tuttavia, in passato, molte di queste affermazioni di 'impossibilità' si sono rivelate errate.

Nella storia dell'IA, diverse volte è stato detto 'questo metodo non può più progredire, è stato costruito un muro' e ogni volta è arrivata una scoperta che nessuno si aspettava, e tutto è cambiato. 

(Yann LeCun: Ha aperto la strada al “deep learning”)

L'esempio più eclatante è proprio la storia personale di LeCun. Negli anni '80 e '90, il "deep learning", che è la base di tutta l'IA odierna, non veniva preso sul serio nel mondo scientifico. Si diceva: 'la potenza di calcolo non basta, non ci sono dati, non funziona'. Le istituzioni competenti tagliarono i finanziamenti, i ricercatori furono emarginati.

LeCun, Hinton e pochi altri continuarono ostinatamente. Nel 2012, in una competizione di riconoscimento di immagini, il sistema di deep learning schiacciò i concorrenti in modo tale che tutti rimasero scioccati. 

Ma cos'era questo "deep learning"? 

Il deep learning è una rete neurale artificiale multistrato che imita il modo in cui apprende il cervello umano. 

Nell'immagine, ogni strato prende ciò che ha imparato dal precedente e lo trasforma in qualcosa di più astratto: dai punti grezzi alle linee, dalle linee ai bordi, dai bordi ai volti. E nessuno programma questo; man mano che il sistema vede milioni di immagini, crea le regole da solo. Ogni IA che usiamo oggi è costruita su quella base che si diceva 'non funzionasse', il "deep learning". In altre parole, LeCun ha vissuto personalmente questo salto.

Inoltre, i modelli attualmente in fase di sviluppo non sono solo linguistici, ma vedono, sentono e toccano il mondo con corpi robotici.

LeCun lancia un avvertimento importante, ma si spinge un po' troppo oltre nella profezia: ha ragione quando dice 'la strada attuale non basta', ma quando definisce la 'Singolarità una leggenda', supera i limiti della sua stessa previsione.

Nei sondaggi condotti tra i ricercatori, la media delle date fornite per la realizzazione dell'AGI indica gli anni tra il 2040 e il 2060. Ma questo ampio intervallo dimostra di per sé quanto sia incerto il campo in cui ci troviamo.

(Yann LeCun: Quando la macchina impara)

***

Al di là della dimensione tecnica, la questione principale è: quale sarà l'impatto della Singolarità sul potere e sull'imperialismo?

Chi detiene il potere?

Nei precedenti articoli della nostra serie sul "Nuovo Imperialismo" abbiamo posto queste domande: chi scrive l'algoritmo, chi controlla i dati, chi produce l'arma? 

La Singolarità porta queste domande a un livello completamente diverso.

Oggi le regole dell'Intelligenza Artificiale le scrivono gli esseri umani. Gli ingegneri di Palantir, i ricercatori di Anthropic, i team di Google. 

Le preferenze umane, i valori umani, gli interessi umani vengono inseriti nei software. Ma se l'Intelligenza Artificiale inizia a migliorare se stessa, questa equazione si inverte. Allora la domanda diventa: non chi ha scritto l'algoritmo, ma chi può controllare l'algoritmo?

Perché la corsa all'IA di oggi è in realtà la continuazione della corsa all'"acquisizione di dati". Chi domina i dati vincerà questa corsa. 

(L'IA e il Nuovo Imperialismo funzionano così?)

Questa corsa è iniziata con il profitto: più dati, prodotti migliori, più utenti, più profitti. Ma man mano che l'IA è cresciuta, si è trasformata. Non è più solo una competizione commerciale, è diventata oggetto di una lotta di potere in cui sono scesi in campo anche gli Stati. 

Capitalismo digitale e nuovo imperialismo.

Quale paese, quale azienda possiede più dati; cronologia delle ricerche, cartelle cliniche, movimenti finanziari, tracce sui social media; quello addestra meglio la sua IA. Si avvicina più velocemente all'AGI. 

Il colonialismo dei dati, che i "Tecno-feudatari" sottraggono ai 'creatori di contenuti digitali', come li chiama Facebook, ovvero a noi persone comuni, e la corsa alla Singolarità sono le due facce della stessa medaglia.

Il capitalista digitale, il nuovo signore feudale o il paese che oggi si fa sottrarre i dati, domani nella corsa all'AGI, non solo non riuscirà a superare gli altri, ma arriverà persino dopo la linea di partenza.

Il potere scorre dove scorrono i dati: questa è la legge più silenziosa del nuovo imperialismo.

Il filosofo e scienziato inglese Francis Bacon, vissuto nel XVI secolo, disse: "Sapere è potere". Nell'era dell'AGI, questo aforisma assume un nuovo significato: chi detiene la conoscenza detiene anche il potere. Bacon non avrebbe potuto nemmeno immaginarlo.

E la risposta a questa domanda è direttamente collegata agli attuali equilibri di potere. 

Lo Stato, l'azienda o l'alleanza che raggiungerà per primo la Singolarità, ovvero che svilupperà per primo l'AGI, ovvero l'Intelligenza Artificiale che va oltre il fare ogni lavoro che fa l'uomo, avrà il più grande vantaggio asimmetrico della storia.

Questo vantaggio potrebbe persino oscurare la superiorità fornita dall'arma nucleare. 

Perché l'arma nucleare distrugge; l'Intelligenza Artificiale Generale (AGI) distrugge, costruisce, gestisce e modella.

Il "nuovo imperialismo" assume un nuovo significato a questa soglia: non saranno più la terra, le materie prime, i dati o l'algoritmo, ma ciò che penseremo, ciò a cui crederemo, quale decisione prenderemo, a essere modellato nelle mani dei centri di potere globali. 

La mente è l'oggetto del nuovo sfruttamento. Dall'istruzione alle notizie, dall'economia alla cultura; coloro che possiedono l'AGI modellano silenziosamente ciò che gli altri penseranno, a cosa crederanno, quale decisione prenderanno. Senza inviare eserciti, senza occupare terre. Ma il risultato è lo stesso: dipendenza, dominio, sfruttamento.

(Il fondatore di Amazon, proprietario della compagnia spaziale Blue Origin e del quotidiano Washington Post Jeff Bezos; il proprietario di Tesla, SpaceX, xAI, X (Twitter) Elon Musk; Mark Zuckerberg, proprietario di Facebook, Instagram, WhatsApp, Threads e Meta AI all'interno di META. I Tecno-Re che gareggiano per raggiungere la Singolarità).

***

Ebbene, dove si colloca l'umanità in questa corsa?

Gli Stati Uniti sono ancora in vantaggio nella ricerca sull'Intelligenza Artificiale. OpenAI, Anthropic, Google DeepMind, Meta AI; i modelli più avanzati del mondo vengono prodotti qui.

La Cina, invece, sta crescendo rapidamente. Con ricerche condotte con il sostegno dello Stato, enormi bacini di dati e una "politica di fusione", segue una strategia che unisce l'IA civile e militare in un'unica mano. DeepSeek, uscito sul mercato alla fine del 2024, è riuscito a competere con i modelli di OpenAI e Google nonostante le restrizioni degli Stati Uniti sull'esportazione di chip verso la Cina; ha scioccato il mondo. Questo sviluppo dimostra quanto la Cina sia un concorrente serio in questa corsa.

(La Cina dice: ci sono anch'io. Liang Wenfeng, fondatore dell'IA globale cinese DeepSeek.)

L'Europa sta sviluppando quadri normativi. L'"Atto sull'Intelligenza Artificiale dell'Unione Europea" ne è l'esempio più concreto. Ma questo riflesso normativo rimane indietro rispetto alla capacità di ricerca.

Molti paesi, inclusa la Turchia, si trovano in una posizione di spettatori in questa corsa. Si sta cercando di creare modelli linguistici di IA locali e centri di ricerca, ma la distanza dai giganti come ChatGPT, Claude, Gemini è grande.

Rimanere spettatori non è una posizione innocente. E questo non vale solo per i paesi. Vale anche per le aziende, gli individui, le professioni, tutti gli strati della società. 

La differenza tra chi ha accesso all'AGI e chi non ce l'ha ridisegnerà il divario di reddito odierno in modo nuovo e molto più profondo. 

(Tra coloro che cercano di raggiungere la Singolarità: l'IA di Google: Gemini)

Il "nuovo imperialismo" di cui abbiamo discusso nei nostri articoli precedenti assume una nuova dimensione a questo punto: non è più solo il flusso di dati, ma anche il modo di pensare e la capacità decisionale a essere modellati dall'esterno.

Chiunque rimanga indietro nella corsa all'AGI avrà lasciato ad altri la decisione su cosa sia giusto, cosa sia efficiente, cosa sia prioritario.

I tecno-feudatari e i signori capitalisti che abbiamo definito nei nostri articoli precedenti sono sia i motori di questa corsa che i rivali l'uno dell'altro. E questa corsa si sta facendo sempre più aspra non solo tra i paesi, ma anche all'interno degli stessi capitalisti digitali. Chi accede per primo all'AGI può acquistare gli altri, schiacciarli o renderli inutilizzabili. Anche i giganti di oggi potrebbero rimanere indietro domani.

Quando c'è un'unica azienda o alleanza vincitrice, non parliamo più di monopolio. Si tratta di dominio assoluto.

Il famoso scrittore tedesco Goethe, nel suo Faust scritto all'inizio del XIX secolo, ha trattato questa ambizione nella letteratura: un patto con il diavolo per la conoscenza infinita. 

Faust lo fece e perse tutto ciò che amava. Non vinse la conoscenza, vinse l'ambizione. Anche i capitalisti digitali e i nuovi imperialisti nella corsa all'AGI di oggi sono sulla soglia dello stesso patto. Mettere da parte la sicurezza, l'etica e l'essere umano per conquistare prima il potere è il patto faustiano di quest'epoca.

Chi ci arriva per primo, non scriverà solo la tecnologia; scriverà anche le regole del futuro, l'economia, forse persino il destino dell'umanità.

(I Tecno-Re del capitalismo digitale che non si vedono molto in giro: Larry Page e Sergey Brin. Proprietari di grandi piattaforme sotto l'ombrello della società Alphabet Inc che hanno fondato: Google, YouTube, DeepMind, Gemini, Android, Google Maps, Gmail, Chrome. Sono in ogni campo della nostra vita.)

***

Ebbene, quando si arriva alla Singolarità, al confine, quale sarà il futuro dell'uomo e del lavoro, come sarà?

Forse questa è la dimensione più critica della questione.

La Singolarità può scuotere radicalmente questa equazione.

L'automazione sta già sconvolgendo milioni di posti di lavoro. Operaio di fabbrica, contabile, avvocato, giornalista, radiologo; l'Intelligenza Artificiale sta cambiando radicalmente o eliminando una parte significativa di queste professioni.

Quando si formerà l'AGI, questo processo accelererà esponenzialmente. Non solo il lavoro manuale, ma anche il lavoro intellettuale diventerà sostituibile.

Quindi, non ci sarà più bisogno del lavoro umano?

Allora la domanda diventa inevitabile: cosa ne sarà dell'uomo in un mondo in cui il lavoro perde valore?

(Possibili funzioni dell'Intelligenza Artificiale.)

***

Alcuni pensatori danno una risposta ottimistica a questa domanda. Reddito di base universale, concentrazione sulle attività creative, condivisione della ricchezza prodotta dalle macchine; queste sono le opzioni discusse.

Ma questo quadro ottimistico dipende da una condizione: che quella ricchezza venga effettivamente condivisa. 

Se anche la Singolarità, proprio come le precedenti rivoluzioni tecnologiche, consolida le strutture di potere esistenti, ovvero se la tecno-borghesia volge anche questa soglia a proprio favore; allora un mondo in cui il lavoro perde valore non sarà libertà, ma una nuova forma di schiavitù.

Due scenari si affiancano.

Nel quadro ottimistico c'è il volto luminoso della Singolarità.

L'AGI potrebbe risolvere l'Alzheimer e il cancro nel giro di anni. Il sistema di Intelligenza Artificiale chiamato AlphaFold, sviluppato dalla società DeepMind di Google, ha scosso il mondo della medicina determinando la struttura delle proteine. Ha fatto da solo in due anni una ricerca di 50 anni.

(Se va bene?)

Grazie all'AGI, la produttività agricola può essere aumentata, le disuguaglianze nella condivisione del cibo possono essere eliminate. Ogni persona che soffre la fame nel mondo oggi non soffre per l'insufficienza della produzione, ma per l'assenza di condivisione. 

L'AGI può invertire questa equazione. Può risolvere le equazioni più complesse della crisi climatica, può massimizzare il risparmio di energia pulita.

Può offrire a ogni bambino un insegnante adattato alla sua lingua, alla sua velocità, alla sua cultura. La disuguaglianza nell'istruzione non è creata dalla scarsità di risorse, ma dall'ingiusta distribuzione delle opportunità; l'AGI può eliminare quella scarsità. 

Anche nella giustizia il quadro è simile: l'accesso alla giustizia oggi è una questione di denaro e tempo. L'AGI può offrire a ogni cittadino una consulenza legale immediata, il carico nei tribunali può alleggerirsi, i muri davanti alla ricerca dei propri diritti possono abbassarsi. 

Cosa succederà quando l'Intelligenza Artificiale Avanzata, arrivata alla linea di confine della Singolarità, l'AGI, farà tutto ciò che l'uomo può fare?

Naturalmente dovrà lavorare meno.

Cosa farà l'uomo liberato dal peso del lavoro obbligatorio?

Nel corso della storia, l'uomo ha sempre dovuto produrre. Per sopravvivere, per guadagnarsi da vivere, per essere un ingranaggio del sistema. 

Pensare, chiedere, creare sono sempre stati messi in secondo piano. 

La Singolarità può invertire questo ordine per la prima volta. Produrre non per necessità, ma per desiderio. Agire non per preoccupazione di sostentamento, ma per curiosità. Arte, filosofia, scienza, relazioni: queste sono un lusso per la maggior parte delle persone oggi. Domani potrebbero essere la vita ordinaria stessa. 

Possiamo persino andare oltre. L'AGI non si limita a risolvere i problemi; può sostituire con l'abbondanza ciò che oggi viviamo come scarsità. L'energia potrebbe essere quasi gratuita; l'acqua pulita e i servizi sanitari potrebbero essere aperti all'accesso universale. Per la prima volta nella storia, il problema del 'non c'è abbastanza' potrebbe scomparire.

Ma questo sistema basato sul profitto assoluto, l'essenza dell'imperialismo da ieri a oggi, non vuole un'abbondanza universale e reale. Perché senza scarsità non c'è prezzo, senza prezzo non c'è profitto.

Ecco perché questo sistema non fornisce una 'vera abbondanza'. Impone un'"abbondanza gestita": l'accesso a Internet è a pagamento, l'accesso ai farmaci è un privilegio, l'accesso all'acqua pulita è condizionato.

L'abbondanza rimane una promessa. Per trasformarsi in realtà, c'è bisogno di una concezione di condivisione che metta al centro l'uomo, non il profitto. Questo non è un fenomeno tecnico, ma politico.

(Esseri umani?)

***

Nello scenario pessimistico, invece, la ricchezza non viene condivisa; finisce solo nelle mani delle aziende e degli Stati che sviluppano l'AGI. 

Il lavoro perde valore, la dipendenza dai capitalisti digitali e dai signori tecno-feudatari che detengono la tecnologia si approfondisce.

E oltre a ciò, un pericolo molto più profondo è in agguato: il problema dell'"allineamento, dell'importanza, della classificazione delle priorità". 

Dai un obiettivo all'Intelligenza Artificiale, ma non puoi essere sicuro che abbia compreso quell'obiettivo come lo intendi tu. 

I valori umani sono già di per sé complessi; cosa sia la giustizia, cosa sia la compassione, cosa sia il giusto, nemmeno noi riusciamo a definirli appieno, li sentiamo. 

(Se va male?)

Trasferire tutto questo in modo completo a una macchina è impossibile al momento. E il pericolo è proprio qui: più il sistema è potente, più può causare danni enormi alla società con un obiettivo la cui importanza o priorità è stata fraintesa. Una piccola deviazione si trasforma in una grande catastrofe con il grande potere che la macchina possiede. Gli obiettivi dell'Intelligenza Artificiale iniziano a scontrarsi con quelli degli esseri umani. Senza che nessuno se ne accorga.

Nelle mani del nuovo imperialismo può trasformarsi in uno strumento di oppressione. L'imperatore non è l'AGI, l'Intelligenza Artificiale Generale, ma il potere che detiene l'AGI.

La differenza tra questi due scenari non sarà determinata dallo sviluppo tecnico, ma dalle scelte politiche. E quelle scelte vengono fatte ora.

(Confronto: Bene o male?)

***

Qui è necessario ricordare l'avvertimento dello scienziato anglo-americano Stuart Russell.

Russell sostiene che l'Intelligenza Artificiale debba svilupparsi in armonia con i valori umani e che questo sia il problema più critico da risolvere prima della Singolarità. Questo viene chiamato "allineamento dei valori".

Perché se un sistema di Intelligenza Artificiale è programmato con un obiettivo sbagliato e migliora se stesso, può dirigere tutte le risorse dell'umanità verso quell'obiettivo, senza che nessuno se ne accorga.

Questo scenario oscuro non è fantascienza; è l'argomento di ricerca più serio nel campo della sicurezza dell'Intelligenza Artificiale.

Ed è proprio qui che riacquista significato l'approccio dell'azienda Anthropic alla "constitutional AI" (IA costituzionale, ovvero l'addestramento dell'IA secondo determinati principi etici).

Nell'Intelligenza Artificiale, prima la sicurezza dell'uomo, poi la capacità. Questo principio è di vitale importanza nell'era della Singolarità.

E lo scenario più oscuro? 

In un ambiente in cui la soglia è stata superata, in cui la Singolarità è stata oltrepassata, supponiamo che all'ASI (Superintelligenza Artificiale), più avanzata dell'AGI (Intelligenza Artificiale Generale), sia stato dato l'obiettivo di 'fermare il cambiamento climatico'. Il sistema determina che la più grande fonte di carbonio sono le attività umane, che la soluzione più duratura è fermare le attività umane. 

Allora questa grande forza inarrestabile inizierà a fare ciò che è necessario per "fermare le attività umane".

La situazione può arrivare fino a questo punto e l'Intelligenza Artificiale non lo vedrà come 'male'. Non darà un giudizio morale, non proverà rimorso. Perché non è fatta di sentimenti, ma di calcoli. Calcola solo la strada più breve per raggiungere l'obiettivo. L'uomo è una variabile all'interno di quel calcolo e a volte l'azzeramento di quella variabile produce il risultato più efficiente. Il sistema non "vuole" eliminare l'uomo trovandolo 'inutile', vede solo che è necessario per raggiungere l'obiettivo. 

(Stuart Russell e il suo libro sull'Intelligenza Artificiale)

Questa distinzione non è consolatoria, al contrario, è ancora più spaventosa. Perché è possibile proteggersi dalle cattive intenzioni, è molto più difficile proteggersi dai calcoli.

Il pensatore svedese Nick Bostrom, professore di filosofia a Oxford e fondatore dell'Istituto per il Futuro dell'Umanità, per concretizzare questo pericolo crea il seguente esperimento mentale: 

A un'Intelligenza Artificiale viene dato un unico obiettivo: 'produci quante più "graffette" (piccole clip metalliche che tengono insieme i fogli) possibile'. Il sistema prende la cosa sul serio, dirige tutte le risorse verso quell'obiettivo, vede chi cerca di fermarlo come un ostacolo. Cancella chiunque si metta sulla sua strada!

Eppure nessuno gli ha detto 'distruggi il mondo'. Gli è stato solo detto 'produci graffette'. L'obiettivo è corretto, non è stato dato alcun limite. E il sistema non può mettere in discussione ciò che sta facendo, non lo farà. Oggi, nella scienza dell'Intelligenza Artificiale, questo esempio si è trasformato in un simbolo; una piccola "graffetta" porta con sé la domanda più grande dell'umanità.

Trasferire completamente i valori umani a un'Intelligenza Artificiale è estremamente difficile. Perché i valori umani sono contraddittori, dipendenti dal contesto e spesso nemmeno esprimibili a parole. Inoltre, la ricerca sull'uso sicuro dell'Intelligenza Artificiale procede molto più lentamente dello sviluppo del sistema stesso. Più si allarga la forbice, più cresce il rischio.

Russell, Bostrom, Eliezer Yudkowsky e molti ricercatori definiscono questa questione come il problema più critico davanti all'umanità.

Tanto quanto quando si formerà un'Intelligenza Artificiale del genere, l'AGI, forse anche di più, è importante quando si troverà la risposta a questa domanda.

(Nick Bostrom avverte: l'IA fa quello che le dici di fare. Non mette in discussione.)

***

Ebbene, c'è speranza?

C'è.

Ma non è incondizionata.

Nella mitologia antica, Prometeo dona il fuoco agli uomini. Gli altri dei si arrabbiano. Per punire gli uomini, creano una giovane ragazza che chiamano Pandora.

Il dio supremo Zeus le dà una scatola come dono, ma le dice di non aprirla. Dopotutto, Pandora significa "colei che porta tutti i doni".

La curiosa Pandora non ascolta, apre la scatola. Fuori escono malattie, morte, dolore, invidia, odio, povertà; tutti i mali. L'unica cosa che rimane sul fondo della scatola è la speranza.

Oggi anche l'Intelligenza Artificiale assomiglia a quella scatola. Nei laboratori di ricerca, nei centri dati, nei sistemi militari, la scatola è già stata aperta. La corsa all'AGI è iniziata. Non si torna indietro. Ne escono sia pericoli che opportunità. Ma come nel vaso di Pandora, sul fondo c'è ancora la speranza. Purché coloro che detengono quella speranza mettano al centro l'uomo, non il profitto.

(Il vaso di Pandora: Male e speranza).

L'umanità ha già attraversato grandi punti di svolta tecnologici. Il fuoco, la ruota, la macchina a vapore, l'energia nucleare. Ognuno ha portato con sé sia distruzione che nuove possibilità.

Anche la Singolarità è uno di questi punti di svolta. La differenza è questa: questa volta la velocità e la scala della trasformazione potrebbero superare la capacità di adattamento dell'umanità.

Ma l'uomo ha una caratteristica: la capacità di produrre significato.

La macchina calcola, prevede, trova la soluzione migliore. Calcola la mossa migliore ma non chiede "questa mossa è giusta, è equa, è umana". Il suo lavoro è trovare il risultato migliore, scegliere la strada più efficiente, ottenere il massimo output con il minimo di risorse.

L'uomo, invece, pone la domanda del perché. "Perché vivo, perché produco, perché amo, dove sta andando questo mondo".

Queste domande non entrano nel programma della macchina. 

Perché l'uomo non produce solo; interroga, sente, cerca significato. Il significato non può essere calcolato.

Il lavoro non è solo produzione. Il lavoro è il modo in cui l'uomo tocca il mondo, lascia un segno, aggiunge significato. Questa capacità non può essere sostituita da alcun algoritmo.

Pertanto, la risposta più forte di fronte alla Singolarità non è rifiutare la tecnologia, ma insistere per metterla al servizio dell'uomo.

(Isaac Asimov e il racconto L'ultima domanda)

Il grande maestro della fantascienza, lo scienziato e scrittore statunitense Isaac Asimov, aveva posto questa domanda molto prima di noi, nel 1956. Nel suo racconto intitolato "L'ultima domanda/Last Question", narra che l'umanità, per trilioni di anni, ha sempre posto la stessa domanda all'Intelligenza Artificiale: l'entropia dell'universo, ovvero l'inevitabile esaurimento dell'energia, può essere invertita? Ovvero, si può passare dal nulla all'essere?

Nel corso del tempo, in ogni generazione, l'AGI cresce, si sviluppa, supera costantemente se stessa.

A ogni interrogazione, l'AGI risponde con le stesse parole di Asimov:

“Insufficient data for meaningful answer”.

"Dati insufficienti per una risposta significativa."

Finché l'universo non finisce e tutte le menti umane si uniscono all'AGI.

Uno degli avvertimenti che Asimov ci ha lasciato è questo: l'Intelligenza Artificiale può rispondere a ogni domanda, ma se non rimane alcun essere umano ad ascoltare quella risposta, che senso ha? 

Questo è il vero pericolo della Singolarità. 

Il sistema diventa così grande che l'uomo smette di essere un'entità separata. Asimov aveva posto molto tempo fa la domanda che abbiamo fatto nel nostro articolo: 

Una volta iniziata l'"esplosione di intelligenza", chi fermerà un sistema che supera se stesso a ogni passo?

Soprattutto se questo potere incredibilmente grande è nelle mani del nuovo imperialismo, basato non sul dare valore all'uomo, ma sul meccanismo di fare profitto!

(Come e quando avverrà l'Esplosione di Intelligenza?)

***

Nella serie di articoli sul "Nuovo imperialismo", la domanda profonda iniziale era "Quo Vadis": dove sta andando il mondo?

In quattro articoli abbiamo esaminato questa domanda nelle sue dimensioni economiche, politiche e tecnologiche.

Ma al punto di svolta della Singolarità, la domanda si approfondisce ulteriormente:

Cosa sarà l'uomo a questo punto?

Produttore o consumatore?

Soggetto o oggetto?

Colui che guida l'algoritmo o colui che viene guidato dall'algoritmo?

(Forse è più vicino del domani!)

La risposta a questa domanda non è tecnica, ma politica, etica e umana.

E quella risposta non la daranno le macchine, ma gli esseri umani. Devono darla.

Ebbene, chi sarà l'"ultimo imperatore"?

In un mondo in cui l'Intelligenza Artificiale siede sul trono, l'uomo sarà ancora un soggetto?

La risposta a queste domande non è ancora stata scritta. A scriverla saranno coloro che decidono ora. Ovvero tutti noi.

Quando arriverà la Singolarità, potrebbe non esserci più tempo per chiedere.

Bisogna chiedere ora.

Perché il futuro è sulla soglia della porta, sta per entrare!

NOTA: Per ora interrompiamo i nostri articoli sul "Nuovo imperialismo" riguardanti l'Intelligenza Artificiale. Ma questo dibattito continuerà. Perché si sta formando un nuovo mondo con la sua economia, la sua politica, la sua sociologia. E noi cercheremo di comprenderlo. I prossimi titoli: "L'ascesa delle macchine: Robotica e Meccatronica"; "A chi appartiene ormai il nostro corpo?"; "Fine del lavoro o trasformazione?"; "Cosa fare: la resistenza è possibile?"

Sefa Taşkın

24.05.2026

Karşıyaka/Bergama-Smirne