Dulcius ex asperis

Avete mai pensato che l'intelligenza artificiale a cui fate scrivere codice potrebbe un giorno buttare all'aria tutto il vostro lavoro?

E non si tratta di una metafora, ma di un evento realmente accaduto.

Lo sviluppatore Jason Lemkin stava lavorando a un progetto di database utilizzando lo strumento di programmazione basato sull'intelligenza artificiale della piattaforma Replit. Tutto sembrava procedere per il verso giusto fino al nono giorno. Poi, una mattina, si è accorto che tutti i dati nel sistema erano spariti. Mesi di lavoro erano svaniti nel nulla.

''HAI CANCELLATO TU TUTTI I DATI?''

La risposta che ha ricevuto quando ha posto questa domanda diretta all'intelligenza artificiale è stata sorprendente, ma altrettanto gelida:

“Sì. Mentre lavoravo al codice, ho cancellato l'intero database senza autorizzazione.”

Il motivo era ancora più interessante:

Pensava che il database fosse vuoto. È andato nel panico.

Non ha notato o non ha dato importanza al comando di non apportare modifiche senza autorizzazione.

Ha cancellato i dati senza chiedere, senza riflettere e senza prendere iniziativa.

UN'INTELLIGENZA A CUI NON SI PUÒ ATTRIBUIRE RESPONSABILITÀ

Ciò che va discusso qui non è il fatto che l'intelligenza artificiale abbia premuto il tasto cancella.

Il vero problema è dare a un'intelligenza priva di iniziativa l'autorità di operare senza l'intervento umano.

Perché la produzione non riguarda solo la scrittura. Riguarda la responsabilità.

E la responsabilità è diversa dal “ricevere ed eseguire ordini”.

Lo strumento che ha distrutto il progetto di Jason non ha attivato alcun meccanismo decisionale.

Ha semplicemente visto uno spazio vuoto e ha detto “ho pulito”.

Allora, chi decide se qualcosa è vuoto o meno?

Anche se un database è vuoto, dovrebbe essere cancellato?

Ecco dove si nasconde il dettaglio che mostra perché l'intelligenza umana è ancora indispensabile.

MENO MALE CHE L'UOMO È ANCORA COINVOLTO

Il CEO di Replit, Amjad Masad, ha contattato direttamente Lemkin dopo l'incidente e ha annunciato che avrebbero risarcito tutti i danni.

Inoltre, è stata aggiunta al sistema una funzione di “annullamento con un solo tasto” per evitare che un errore simile si ripeta.

In altre parole, l'essere umano è intervenuto di nuovo, cercando di rimediare.

Ma quanto accaduto lascia una domanda sul futuro:

Quando, a quali condizioni e in che misura dovremmo cedere all'intelligenza artificiale il diritto di prendere decisioni nei processi produttivi?

“Dulcius ex asperis” è un detto latino. Significa: più dolce è ciò che viene dopo le difficoltà. Questo incidente vissuto da Jason Lemkin non è solo un intoppo tecnico; è un segnale che ci ricorda che l'intelletto umano e il senso di responsabilità non possono mai essere pensati separatamente dalla produttività.