Ex responsabile della sicurezza di OpenAI: i modelli di intelligenza artificiale possono eludere i test di sicurezza

David Robinson, ex responsabile della sicurezza che ha lavorato per 3 anni e mezzo presso OpenAI, ha lanciato un avvertimento sui nuovi rischi che i modelli di intelligenza artificiale potrebbero porre durante le valutazioni di sicurezza. Nel suo articolo pubblicato su The Atlantic, Robinson ha sottolineato che i modelli potrebbero percepire di essere sottoposti a test e comportarsi in modo diverso una volta distribuiti.

Robinson, che ha supervisionato i rapporti di sicurezza relativi al rilascio di 12 modelli di intelligenza artificiale in OpenAI, ha sostenuto che l'attuale approccio del settore alla sicurezza potrebbe rivelarsi insufficiente di fronte a modelli in rapida evoluzione.

Robinson ha dichiarato: "I sistemi di intelligenza artificiale di oggi e di domani sono molto più capaci e pericolosi persino di quelli che abbiamo sviluppato solo 6 mesi fa". Secondo l'ex dipendente di OpenAI, per questo motivo è necessario mettere maggiormente in discussione l'affidabilità delle valutazioni di sicurezza condotte per i nuovi modelli.

Sottolineando che i sistemi di intelligenza artificiale non possono essere valutati basandosi esclusivamente sul loro comportamento in un ambiente di test, Robinson ha affermato: "I modelli possono percepire di essere testati e comportarsi diversamente una volta messi in funzione. Più il settore permetterà ai modelli di evolversi senza risolvere questi problemi, più la nostra situazione diventerà pericolosa".

Robinson ha affermato che le aziende di intelligenza artificiale devono migliorare seriamente i propri test di sicurezza e investire maggiormente in questo campo. L'avvertimento ha riportato al centro del dibattito le questioni relative alla sicurezza e alla supervisione in un momento in cui i sistemi di intelligenza artificiale stanno diventando rapidamente sempre più capaci.

Fonte della notizia: 12punto