I dirigenti delle principali aziende nel campo dell'intelligenza artificiale hanno lanciato avvertimenti sui rischi futuri della tecnologia e sulla necessità di una regolamentazione durante la sessione su "intelligenza artificiale e sicurezza internazionale" tenutasi presso il Consiglio di Sicurezza delle Nazioni Unite.
L'amministratore delegato di OpenAI, Sam Altman, ha affermato che il rapido sviluppo dei modelli di intelligenza artificiale rende i rischi più urgenti, pur rendendo i benefici più visibili. Affermando che l'umanità si trova di fronte a una scelta critica, Altman ha dichiarato: "L'intelligenza artificiale potrebbe essere come un nuovo rinascimento, caratterizzato da creatività e scoperte, oppure come una nuova rivoluzione industriale, segnata da sconvolgimenti e caos".
Altman ha sottolineato che la visione ideale dell'intelligenza artificiale non è quella di trasformare le persone in "ingranaggi di una macchina gigante". Affermando che questi sistemi possono essere nuovi strumenti per consentire alle persone di raggiungere obiettivi che oggi sembrano difficili da conseguire, Altman ha tuttavia sottolineato che, man mano che la tecnologia diventa più capace e autonoma, potrebbe alterare gli equilibri di potere.
Affermando che il fatto che i processi di sviluppo dell'intelligenza artificiale stiano diventando sempre più automatizzati potrebbe aumentare la velocità del progresso, Altman ha detto che per questo motivo le aziende non dovrebbero ignorare i rischi concentrandosi solo sui benefici. Secondo Altman, nessun modello dovrebbe essere addestrato se non si è certi di poterlo mantenere sotto controllo umano.
Altman ha inoltre affermato che le decisioni più importanti riguardanti l'intelligenza artificiale non dovrebbero essere prese solo nei laboratori dei centri tecnologici. "Affinché l'intelligenza artificiale sia democratica, le decisioni più importanti non devono essere prese solo dai laboratori di San Francisco", ha detto Altman, aggiungendo che le decisioni dovrebbero essere modellate attraverso processi democratici e da governi responsabili verso il pubblico.
RISCHI PER LA SICUREZZA GLOBALE
Anche l'amministratore delegato di Anthropic, Dario Amodei, che ha partecipato all'incontro online, ha affermato che il rapido progresso dell'intelligenza artificiale aumenta i rischi che devono essere gestiti. Amodei ha dichiarato di vedere due categorie di rischio fondamentali, elencandole come l'uso improprio dei modelli e il loro potenziamento a una velocità che supera la capacità di controllo degli sviluppatori.
Amodei ha citato l'uso dei modelli di intelligenza artificiale nella produzione di armi biologiche come esempio del rischio di uso improprio. Affermando che anche il rischio di perdita di controllo riguarda l'intera umanità, Amodei ha avvertito che, se gestita male, l'intelligenza artificiale potrebbe rappresentare una minaccia generale per l'umanità.
Sottolineando che la sicurezza dell'intelligenza artificiale non è una questione che una singola azienda può risolvere, Amodei ha chiesto una cooperazione a livello di settore e su scala globale. Amodei ha chiesto la creazione di sistemi di valutazione e verifica affinché gli Stati possano essere informati sulle capacità dei modelli avanzati di intelligenza artificiale e la definizione di standard comuni per i test di rischio.
L'amministratore delegato di Hugging Face, Clement Delangue, ha invece raccontato le lezioni apprese da un attacco informatico effettuato da un agente di intelligenza artificiale autonomo. Delangue ha affermato che sono necessari standard globali più forti per comprendere e mitigare meglio le minacce alla sicurezza informatica derivanti dall'intelligenza artificiale.
Delangue, pur confermando di aver subito un attacco, ha sottolineato che l'intelligenza artificiale può essere utilizzata anche come strumento di difesa nella sicurezza informatica, dichiarando: "Siamo stati attaccati dall'intelligenza artificiale, ma, cosa ancora più importante, ci siamo difesi usando l'intelligenza artificiale".
L'enfasi comune dei relatori è stata che le opportunità offerte dall'intelligenza artificiale possono essere sostenibili solo se affrontate insieme a meccanismi di sicurezza, controllo e cooperazione internazionale. Altman ha riassunto questo quadro con le parole: "Siamo a un bivio".
Fonte della notizia: 12punto
