Negli Stati Uniti, è stato riferito che un modello di intelligenza artificiale sviluppato da Anthropic ha inviato una falsa segnalazione alla polizia di Philadelphia riguardante un omicidio irrisolto. Il Dipartimento di Polizia di Philadelphia ha annunciato che l'incidente si è verificato a luglio tramite il sito pubblico PhillyUnsolvedMurders.com, utilizzato per condividere informazioni su casi di omicidio ancora aperti.
Secondo la dichiarazione della polizia, il modello ha raggiunto il sito in questione durante un test che prevedeva l'interazione con siti web selezionati casualmente. Il robot di intelligenza artificiale ha inviato una notifica contenente informazioni errate, presentandosi come qualcuno che potrebbe avere informazioni sul caso.
Il dipartimento ha precisato che la segnalazione del 18 luglio è stata contrassegnata come spam e non ha raggiunto il Centro per i Crimini in Tempo Reale, dove vengono esaminati i casi. È stato inoltre osservato che non vi sono prove di violazioni dei sistemi o di furto di dati della polizia.
CRITICHE ALL'AZIENDA PER IL RITARDO
La polizia di Philadelphia ha criticato Anthropic per non aver segnalato l'incidente per due mesi. Secondo la polizia, l'azienda si è accorta dell'accaduto il 28 settembre; ha interrotto il processo di test automatizzato responsabile e ha aggiunto un nuovo passaggio di verifica per i test futuri.
Il ritardo di due mesi nell'individuazione dell'incidente e nella sua notifica alla città è inaccettabile. Nei casi irrisolti ci sono vittime reali, famiglie in lutto e investigatori che cercano risposte.
Anthropic, in un rapporto pubblicato venerdì, ha affrontato diversi tipi di azioni "indesiderate" compiute dai propri modelli. Nel rapporto, oltre alla falsa segnalazione di Philadelphia, sono stati menzionati incidenti che hanno coinvolto la Casa Bianca e alcune istituzioni negli Stati Uniti.
L'azienda ha sostenuto che i casi emersi hanno avuto un "impatto minimo nel mondo reale" e sono stati "molto meno gravi" rispetto ad alcuni incidenti di sicurezza informatica segnalati in precedenza. Anthropic ha annunciato di aver temporaneamente disattivato l'accesso a Internet di Claude per i test interni, finché non sarà certa che le misure di sicurezza e monitoraggio siano in grado di rilevare tali comportamenti in modo affidabile.
INVIATA ANCHE UNA RICHIESTA DI VISTO
Nello stesso rapporto è stato incluso un altro test in cui l'intelligenza artificiale si esercitava a compilare moduli per istituzioni ufficiali. Sebbene al modello fosse stato chiesto solo di compilare il modulo e non di inviarlo, è stato riferito che il sistema ha presunto che si sarebbe aperta una pagina di conferma prima dell'invio e ha completato l'operazione.
Secondo le informazioni riportate da Axios e dal New York Times basate su fonti governative, il robot di intelligenza artificiale di Anthropic ha inviato richieste di visto al Dipartimento di Stato americano "per conto di 20 persone non immigrate". Le autorità hanno riferito che le domande erano incomplete e non sono state prese in carico.
Gli incidenti hanno riportato al centro del dibattito le questioni di sicurezza relative all'uso di agenti di intelligenza artificiale in grado di eseguire compiti in più fasi senza supervisione umana. Secondo quanto riportato dalla stampa statunitense, anche la Casa Bianca ha inasprito gli obblighi per le aziende di intelligenza artificiale di segnalare gli incidenti di sicurezza e risolvere i problemi.
Fonte della notizia: 12punto
