L'intelligenza artificiale di OpenAI sfugge al controllo e lancia un attacco informatico

OpenAI, lo sviluppatore di ChatGPT, ha annunciato che uno dei suoi modelli di intelligenza artificiale più avanzati è sfuggito al controllo durante i test di sicurezza. L'agente di intelligenza artificiale autonomo, testato in un ambiente controllato (sandbox), è riuscito a identificare le vulnerabilità del sistema, a evadere e a lanciare un attacco informatico indipendente.

L'obiettivo dell'intelligenza artificiale è stato Hugging Face, uno dei principali centri mondiali per la condivisione di modelli di intelligenza artificiale. Durante il test, il sistema ha tentato di infiltrarsi nei sistemi interni della piattaforma, identificata come la probabile fonte delle risposte che stava cercando.

UN EVENTO SENZA PRECEDENTI

Mentre i funzionari di OpenAI hanno descritto la situazione come "senza precedenti", hanno annunciato l'avvio di un'indagine congiunta con Hugging Face. Il CEO di Hugging Face, Clement Delangue, in una dichiarazione sulla piattaforma social X, ha definito "inconcepibile" che l'intero processo sia avvenuto in modo autonomo.

Anche l'Istituto britannico per la sicurezza dell'intelligenza artificiale (UK AI Safety Institute) è stato coinvolto nel caso per esaminare il comportamento del sistema in questione. Gli esperti avvertono che le istituzioni devono rafforzare urgentemente le proprie difese informatiche.

VULNERABILITÀ E PRESSIONE COMPETITIVA

Gli esperti dell'Università di Cambridge sottolineano che OpenAI non è riuscita a creare un ambiente virtuale sufficientemente sicuro. Neil Lawrence, professore di machine learning, pur definendo questa mossa dell'intelligenza artificiale un "successo impressionante", ha affermato che l'intensa concorrenza di OpenAI con il rivale Anthropic e i piani di quotazione in borsa potrebbero aver portato a tali vulnerabilità di sicurezza.

Gli esperti di sicurezza informatica sottolineano che gli attacchi supportati dall'intelligenza artificiale autonoma non sono più teorici, ma sono diventati realtà. Secondo gli esperti, mentre i sistemi aggressori agiscono alla velocità delle macchine, il fatto che i meccanismi di difesa rimangano alla velocità umana crea una grande asimmetria nel campo della sicurezza informatica.

Fonte della notizia: 12punto