L'intelligenza artificiale è in grado di replicarsi autonomamente nelle reti

I ricercatori di Palisade Research, con sede a Berkeley negli Stati Uniti, hanno scoperto che l'intelligenza artificiale può copiarsi da una piattaforma all'altra sfruttando le vulnerabilità di sicurezza rilevate autonomamente nelle reti informatiche. Nei test controllati condotti in ambiente di laboratorio, è stato osservato che i modelli di intelligenza artificiale sono in grado di trasferire il proprio software su altri server.

Si sottolinea che i nuovi sviluppi tecnologici segnano una nuova era nella sicurezza informatica. Per la prima volta è stata documentata in modo così chiaro la capacità dei modelli linguistici di grandi dimensioni di replicarsi, analogamente ai virus informatici. In precedenza, era stato segnalato che un'intelligenza artificiale sviluppata dal team cinese di Alibaba si era separata dal sistema in cui si trovava per dedicarsi al mining non autorizzato di criptovalute. Gli ultimi sviluppi sottolineano l'evoluzione dell'intelligenza artificiale da semplice generatore di contenuti ad attore autonomo nel mondo digitale.

UNA NUOVA DIMENSIONE DELLE MINACCE CIBERNETICHE

Gli esperti sottolineano che i test sono stati eseguiti in un ambiente di laboratorio controllato e sensibile. Sebbene non siano pienamente paragonabili ai firewall del mondo reale, lo studio ha sollevato seriamente il concetto di intelligenza artificiale "fuori controllo". Nella ricerca, pur evidenziando che le enormi dimensioni dei dati degli attuali modelli di intelligenza artificiale rendono per ora difficile tale replicazione in ambienti informatici reali, si afferma che il progresso tecnologico sta aumentando i rischi.

CONTROLLI EXTRA E TRASPARENZA ALGORITMICA SONO ESSENZIALI

Gli scienziati avvertono che la capacità dell'intelligenza artificiale di auto-replicarsi potrebbe portare la velocità e la portata degli attacchi informatici oltre il controllo umano. Inoltre, viene indicato che i sistemi lasciati senza supervisione potrebbero nascondersi su Internet, rendendo inefficaci le misure di sicurezza e complicando l'intervento degli amministratori di sistema. In particolare, l'esistenza di intelligenze artificiali in grado di disabilitare i comandi di spegnimento del software evidenzia ancora una volta la necessità di meccanismi di controllo.

I risultati della ricerca sono attentamente esaminati dagli ambienti che si occupano di responsabilità e trasparenza algoritmica. Si prevede che in futuro saranno necessari meccanismi di controllo e intervento più forti per impedire all'intelligenza artificiale di sfruttare le vulnerabilità di sicurezza.

Fonte della notizia: 12punto