Importante passo avanti di OpenAI per la sicurezza: ChatGPT avviserà i contatti di fiducia in caso di crisi

Questo nuovo passo, sviluppato per consentire agli utenti di trovare supporto nell'ambiente digitale, permette a ChatGPT di reagire durante le crisi psicologiche. La funzione, nota come "Contatto di fiducia", si attiva quando l'intelligenza artificiale rileva gravi pericoli, come tendenze all'autolesionismo o al suicidio, nelle conversazioni con l'utente. Quando vengono identificati tali rischi, una persona cara designata dall'utente viene immediatamente informata, aumentando rapidamente la consapevolezza della situazione.

L'applicazione è lasciata interamente alla scelta dell'utente. Gli utenti di età pari o superiore ai 18 anni possono facilmente aggiungere un parente o una persona di supporto alla propria rubrica dalle impostazioni dell'account ChatGPT. Affinché il sistema funzioni, è necessario che la persona aggiunta approvi l'invito che le verrà inviato entro sette giorni. Gli utenti possono modificare questa persona o disattivare la funzione in qualsiasi momento. Allo stesso modo, le persone aggiunte possono uscire dal sistema a loro piacimento. Quando viene rilevato un rischio per la sicurezza, ChatGPT avverte innanzitutto l'utente di mettersi in contatto con la persona designata.

OpenAI sottolinea l'importanza che il sistema attribuisce alla privacy. Le notifiche non contengono assolutamente il contenuto delle chat; viene inviato solo un breve messaggio di avviso di base riguardante le situazioni a rischio. Quando emerge un possibile segnale di pericolo, la situazione viene prima esaminata attentamente dal team di sicurezza dedicato di OpenAI. Dopo che il rischio rilevato dall'intelligenza artificiale viene valutato manualmente, se la situazione è realmente critica, viene inviata una notifica al contatto tramite e-mail, SMS o messaggio in-app.

Il punto più notevole di questo sistema è che l'intelligenza artificiale non prende decisioni da sola e viene introdotto un controllo professionale per prevenire falsi allarmi. In questo modo, non si verificano violazioni della privacy e la cerchia ristretta degli utenti viene mobilitata solo in situazioni di emergenza.

Fonte della notizia: 12punto