Tre ricercatori, precedentemente impiegati nel campo della sicurezza dell'intelligenza artificiale presso OpenAI e poi licenziati, hanno avvertito che i controlli sui sistemi di intelligenza artificiale, che stanno diventando sempre più autonomi, non dovrebbero essere allentati.
Secondo quanto riportato dal Wall Street Journal, in una lettera inviata ai membri del consiglio di amministrazione di OpenAI, i ricercatori hanno espresso la preoccupazione che le aziende possano col tempo perdere la capacità di monitorare i processi di ragionamento dei sistemi di intelligenza artificiale.
Nella lettera è stato sottolineato che, di fronte ai rischi che i sistemi di intelligenza artificiale autonomi potrebbero comportare, i controlli di sicurezza non dovrebbero limitarsi a meccanismi interni alle aziende, ma dovrebbero essere condotti da organizzazioni indipendenti.
I ricercatori hanno affermato che nel settore non esiste ancora un metodo chiaro su come sviluppare e implementare in modo sicuro modelli non verificabili. Per questo motivo, è stato rivolto un appello a OpenAI e ad altre aziende leader nel campo dell'intelligenza artificiale affinché non facciano progredire la tecnologia in una direzione che ne renda difficile il controllo.
Un portavoce di OpenAI, in una dichiarazione rilasciata al giornale, ha affermato di concordare pienamente con le raccomandazioni contenute nella lettera e che il controllo dei modelli di intelligenza artificiale riveste una grande importanza per l'azienda.
Si sostiene che i ricercatori in questione siano stati licenziati con l'accusa di aver condiviso informazioni riservate con un'azienda di sicurezza dell'intelligenza artificiale.
Fonte della notizia: 12punto
