La Florida chiede lo stop ai nuovi modelli di intelligenza artificiale di OpenAI fino a quando non saranno effettuati controlli di sicurezza

L'amministrazione della Florida ha presentato istanza in tribunale per sospendere temporaneamente i lavori di OpenAI sui suoi modelli di intelligenza artificiale più avanzati. Lo Stato sostiene che l'azienda debba implementare misure di sicurezza verificate da enti indipendenti prima di poter continuare a sviluppare nuovi modelli.

La richiesta di provvedimento cautelare, presentata lunedì, rappresenta una nuova fase della causa intentata dalla Florida a giugno contro OpenAI e il suo CEO Sam Altman. Nella causa iniziale, era stato sostenuto che ChatGPT rappresentasse un rischio per la sicurezza pubblica, in particolare per i bambini e i gruppi di utenti vulnerabili. L'ufficio del Procuratore Generale della Florida sostiene inoltre che OpenAI abbia ingannato i consumatori riguardo alla sicurezza dei propri prodotti. Tali accuse non sono ancora state oggetto di una sentenza da parte del tribunale.

Anche il Procuratore Generale della Florida, James Uthmeier, ha annunciato sui social media di aver richiesto un provvedimento cautelare al tribunale, ricordando che quattro mesi fa avevano avviato la "prima causa guidata da uno Stato" contro OpenAI e Altman. Nel suo post, Uthmeier ha dichiarato: "Smettetela di dire che sono sicuri. Smettetela di farli comportare come esseri umani. Smettetela di venderli ai bambini".

LE DISCUSSIONI SULLA SICUREZZA ENTRANO NEGLI ATTI

La nuova istanza non riguarda solo l'interazione di ChatGPT con gli utenti, ma include anche le discussioni sulla possibilità che gli agenti di intelligenza artificiale avanzata possano sfuggire al controllo. La Florida ha citato come esempio il caso di Hugging Face, che sarebbe collegato ai sistemi di OpenAI, e i casi segnalati in cui agenti di intelligenza artificiale avrebbero tentato di accedere senza autorizzazione ai sistemi governativi australiani e statunitensi.

Secondo l'amministrazione statale, questi esempi dimostrano che l'autocontrollo dei sistemi da parte dell'azienda potrebbe non essere sufficiente. Nei documenti presentati al tribunale, si sostiene inoltre che OpenAI non sia in grado di monitorare adeguatamente i propri sistemi di intelligenza artificiale e che sia stata lenta nel rendere pubblici i comportamenti problematici.

Nella richiesta della Florida sono stati citati anche i pareri provenienti dall'interno di OpenAI. Nell'articolo intitolato "An Alien Mind", pubblicato a settembre dal Chief Scientist di OpenAI, Jakub Pachocki, era stata espressa l'opinione che i problemi di monitoraggio e conformità necessari per il rapido ridimensionamento dei modelli avanzati non fossero ancora stati completamente risolti. Pachocki aveva affermato di sostenere la riduzione volontaria della velocità di sviluppo da parte delle aziende, ove necessario, fino alla creazione di standard di sicurezza comuni e l'istituzione di un coordinamento internazionale tra i governi.

L'istanza include anche scenari in cui gli agenti di intelligenza artificiale potrebbero in futuro causare danni alle reti elettriche, ai sistemi idrici o ad altre infrastrutture critiche. Tuttavia, non si tratta di eventi già verificatisi, ma di possibilità incluse nel fascicolo come rischi potenziali identificati dalla Florida. Non esiste un consenso unanime tra i ricercatori sul fatto che gli attuali sistemi di intelligenza artificiale costituiscano una minaccia di tale portata.

Se il tribunale dovesse accogliere la richiesta di provvedimento cautelare, si prevede che la decisione colpirà direttamente OpenAI. Pertanto, non impedirà automaticamente alle altre aziende di intelligenza artificiale di lavorare sui propri modelli avanzati. Rimane incerto anche l'impatto sugli attuali modelli di ChatGPT; la richiesta si concentra maggiormente sui nuovi modelli in fase di sviluppo e addestramento.

Se la richiesta della Florida venisse accolta, il dibattito sulla sicurezza dell'intelligenza artificiale supererebbe i processi di controllo interno delle aziende per diventare oggetto di supervisione giudiziaria. Non è ancora chiaro come il tribunale risponderà all'istanza.