L'intelligenza artificiale Mythos di Anthropic ha trovato falle nei sistemi segreti USA in poche ore

È stato riferito che il modello di intelligenza artificiale chiamato Mythos, sviluppato da Anthropic, ha identificato alcune vulnerabilità di sicurezza in poche ore durante un'esercitazione di test condotta su sistemi informatici sensibili appartenenti al governo degli Stati Uniti.

Un funzionario statunitense, che ha parlato con l'Associated Press a condizione di anonimato, ha affermato che l'azienda ha condotto i test in collaborazione con le agenzie di intelligence statunitensi. Il funzionario ha anche sottolineato che il fatto che il modello abbia trovato le falle in breve tempo non significa che sia stato in grado di sfruttarle nello stesso arco temporale.

È stato precisato che i test sono stati eseguiti nell'ambito dell'iniziativa di Anthropic denominata Project Glasswing. L'iniziativa riunisce aziende tecnologiche che mirano a proteggere i software critici per la sicurezza pubblica, la sicurezza nazionale e l'economia dai rischi che possono derivare dai modelli avanzati di intelligenza artificiale.

Il senatore democratico della Virginia Mark Warner aveva fatto riferimento ai test durante un'audizione presso la Commissione bancaria, edilizia e affari urbani del Senato l'11 giugno. Warner aveva dichiarato: "Questo strumento si è infiltrato in quasi tutti i nostri sistemi segreti in poche ore, non settimane", aggiungendo di aver ricevuto l'informazione dal generale Joshua Rudd, a capo della NSA e del Comando cibernetico degli Stati Uniti.

TENSIONI CON L'AMMINISTRAZIONE

Sebbene i test dimostrino la collaborazione tra le agenzie statunitensi e Anthropic, esiste una tensione tra l'azienda e l'amministrazione Trump riguardo all'uso dell'intelligenza artificiale in ambito militare e di sicurezza nazionale. Questo mese, l'amministrazione ha emesso una direttiva che richiede di impedire l'uso dei modelli Fable 5 e Mythos 5 di Anthropic da parte di cittadini stranieri.

Tale direttiva è arrivata 10 giorni dopo il decreto presidenziale del presidente Donald Trump che consente l'esame dei rischi per la sicurezza nazionale dei sistemi di intelligenza artificiale più avanzati prima che vengano resi pubblici. Nel decreto era stato specificato che la partecipazione delle aziende a questo processo sarebbe stata volontaria.

Anthropic ha annunciato di aver disattivato i modelli in questione per tutti i clienti al fine di conformarsi alla direttiva. Tuttavia, l'azienda ritiene che le misure adottate dal governo non siano giustificate dalle preoccupazioni di sicurezza sollevate.

Rappresentanti aziendali, tra cui dirigenti di Adobe e Nvidia, insieme a oltre 100 esperti di sicurezza informatica, hanno chiesto la revoca della direttiva in una lettera inviata al governo. I firmatari hanno sostenuto che i modelli Mythos sono potenti nel trovare bug software e nel trasformare le vulnerabilità in strumenti di attacco, ma che non sono unici in questo campo.

Nella lettera è stato inoltre avvertito che, in un periodo in cui i rivali degli Stati Uniti stanno avanzando rapidamente, la disattivazione di potenti strumenti di difesa informatica "senza una ragione valida" potrebbe essere pericolosa.

Fonte della notizia: 12punto