Avvertimento sull'«intelligenza artificiale avanzata» da Paul Christiano, nuovo membro del consiglio di OpenAI: la perdita di controllo potrebbe essere fatale
L'esperto di sicurezza dell'intelligenza artificiale Paul Christiano ha dichiarato che, se la superintelligenza dovesse sfuggire al controllo, potrebbe avere conseguenze disastrose.
12punto
Paul Christiano, noto per il suo lavoro nel campo della sicurezza dell'intelligenza artificiale, è stato nominato nel consiglio di amministrazione della fondazione no-profit di OpenAI. Mentre assume l'incarico nella fondazione che supervisiona la struttura commerciale sviluppatrice di ChatGPT, Christiano continuerà a ricoprire il ruolo di consulente tecnico senior presso il Centro per gli standard e l'innovazione dell'intelligenza artificiale (CAISI) del Dipartimento del Commercio degli Stati Uniti.
Secondo quanto riportato dal Financial Times, la nomina è considerata parte di uno sforzo volto ad aumentare le competenze dei laboratori di intelligenza artificiale in materia di sicurezza, standard e regolamentazione. Nel settore, la supervisione di modelli particolarmente potenti, i rischi legati alla sicurezza informatica e le richieste di intervento da parte delle autorità pubbliche sono temi sempre più dibattuti.
Nel commentare il suo nuovo incarico, Christiano ha affermato che lo sviluppo di sistemi di intelligenza artificiale estremamente potenti, in assenza di un coordinamento più rigoroso a livello nazionale e internazionale, potrebbe comportare gravi rischi.
Prevedo che, se sviluppassimo una superintelligenza senza un coordinamento più solido, perderemmo completamente il controllo su di essa. Se ciò dovesse accadere, la maggior parte delle persone potrebbe perdere la vita.
Christiano ha sottolineato che, per mitigare questa minaccia, è necessaria una collaborazione sia a livello nazionale che internazionale. Ha sostenuto che, sia all'interno di OpenAI che nel settore in generale, gli sforzi attuali non sono sufficienti a ridurre il rischio di perdita di controllo a un livello accettabile.
Avvertimenti simili erano stati sollevati in precedenza da Geoffrey Hinton, premio Nobel noto come il "padrino" dell'intelligenza artificiale. Hinton aveva espresso l'opinione che, allo stato attuale, non sia possibile costruire in modo sicuro, da parte delle aziende, sistemi che superino chiaramente l'intelligenza umana.