Dobbiamo insegnare a noi stessi a pensare prima che alle macchine

Oggi i sistemi che abbiamo a disposizione si chiamano GAI — Generative AI. Ovvero intelligenza artificiale generativa. Anche questa definizione ci sussurra cosa dovremmo aspettarci da essa: che produca. Non che pensi.

Alla base dei modelli GAI ci sono i modelli linguistici di grandi dimensioni (LLM). Ovvero sistemi che estraggono schemi da enormi masse di testo su Internet e poi, basandosi su questi schemi, generano risposte. Deep learning, strutture transformer, miliardi di parametri… Ma dietro tutto questo splendore tecnico si cela in realtà un obiettivo semplice: prevedere.

Quale parola viene dopo?

Come continua questa frase?

Come appare un testo basato su questo schema?

Ecco tutto. Nessun pensiero. Nessuna analisi. Solo schemi.

----

Apple, con l'articolo intitolato The Illusion of Thinking pubblicato poco prima della WWDC, ci ha sbattuto questa realtà in faccia. Hanno creato un ambiente di test che dimostra come modelli come GPT, Claude e Gemini non "pensino".

Puzzle logici che includono tre livelli di difficoltà:

• Facile: I modelli volano.

• Medio: Inizia il rallentamento.

• Difficile: Tutti crollano.

Ma il punto non sono solo le domande difficili. Ancora più sorprendente è questo:

Apple ha fornito a questi modelli anche gli algoritmi di risoluzione.

Ovvero, hanno detto loro: "Risolvilo così".

E non sono comunque riusciti a risolverlo.

Il modello che ha eseguito 100 mosse nella Torre di Hanoi, si è bloccato dopo 3 mosse nel problema dell'attraversamento del fiume.

Perché uno era nel set di addestramento, l'altro no.

-----

Ciò che questo esperimento dimostra è semplice ma sconvolgente:

I sistemi GAI di oggi vivono ancora all'interno della memorizzazione.

Producono molto bene basandosi sulla memoria, ma non riescono a superare il limite.

E per questo motivo, per quanto li consideriamo "intelligenti", in realtà le nostre aspettative sono cambiate.

Non abbiamo chiesto loro di pensare. Abbiamo chiesto loro di produrre.

Per questo i loro successi odierni sono legittimi entro i propri confini.

Ma oltre quel confine, è ancora buio.

-----

Un sistema che pensa, analizza, astrae e va oltre lo schema come un essere umano…

Ovvero l'AGI — Intelligenza Artificiale Generale — è ancora un sogno della ricerca.

Non si vede ancora all'orizzonte.

Ma questo sogno è ancora più prezioso perché mostra le carenze dei modelli attuali.

Perché questo studio di Apple non suggerisce solo ciò che l'intelligenza artificiale di oggi non è, ma anche ciò di cui ha bisogno per diventarlo.

-----

Una buona imitazione può sostituire la realtà per un po'.

Ma nelle situazioni limite, la realtà e la simulazione si separano.

Ciò che abbiamo oggi tra le mani è produttivo.

Ma non pensa.

E un sistema che non pensa non può nemmeno fingere di sbagliare.

Si limita a tacere quando lo schema si rompe.

Forse è per questo che la vera intelligenza rimane nostra.

E forse, finché siamo ancora in tempo, dovremmo insegnare a noi stessi a pensare prima che alle macchine.