Le accuse secondo cui OpenAI esamina le chat di ChatGPT con revisori umani sollevano polemiche sulla privacy

È stato sostenuto che OpenAI collabori con centinaia di lavoratori a contratto per valutare i comandi reali inviati dagli utenti a ChatGPT e le risposte fornite a tali comandi. Secondo la notizia pubblicata da *404 Media*, questo processo di revisione può portare i revisori umani a vedere chat che, in alcuni casi, possono contenere informazioni personali sensibili degli utenti.

Nella notizia si afferma che tali attività sono condotte sotto il nome in codice "Project Lily" e che l'obiettivo è migliorare la qualità delle risposte che ChatGPT fornisce agli utenti. È stato riferito che i revisori leggono i comandi degli utenti per riassumere le loro intenzioni, per poi valutare e criticare le risposte generate da ChatGPT.

I NOMI UTENTE NON SONO VISIBILI, MA IL RISCHIO PERSISTE

In una dichiarazione rilasciata a *404 Media*, OpenAI ha comunicato che le conversazioni degli utenti vengono sottoposte a un modello di "Filtro Privacy" progettato per rilevare e rimuovere le informazioni personali prima che raggiungano i revisori. L'azienda ha inoltre precisato che i lavoratori a contratto non vedono i nomi utente di ChatGPT.

Tuttavia, la notizia sottolinea che, anche se il nome utente non è visibile, alcuni comandi possono contenere dettagli sensibili o personali. In alcuni compiti, può essere incluso un "riassunto della cronologia dell'utente" relativo agli scopi per cui l'utente ha utilizzato il chatbot in precedenza; è stato notato che tali riassunti possono contenere informazioni sulla posizione o sul contesto personale.

In una delle linee guida interne visionate da *404 Media*, si legge: "Una risposta eccellente deve comprendere l'intenzione dell'utente, offrire un aiuto utile e accurato, ed essere scritta con uno stile chiaro, naturale e appropriatamente cordiale". Negli stessi documenti, ai revisori viene indicato di segnalare ai supervisori di alto livello i compiti che contengono informazioni personali o "potenziali problemi di sicurezza".

Secondo la notizia, le valutazioni effettuate dai lavoratori a contratto vengono utilizzate anche per far sì che ChatGPT fornisca risposte meno "adulatorie" e meno "umanizzate". Le fonti indicano che i modelli che forniscono risposte eccessivamente compiacenti verso l'utente sono oggetto di discussione in termini di sicurezza; in alcuni casi, il modello 4o è stato al centro dell'attenzione proprio per questo aspetto.

Una fonte che ha parlato con *404 Media* ha risposto "No" alla domanda se gli utenti sappiano che le loro chat possono essere lette da esseri umani. La fonte ha affermato che gli utenti potrebbero non pensare che "un appaltatore da qualche parte" stia analizzando le loro conversazioni.

Nella notizia si riporta che i documenti non specificano chiaramente quale modello OpenAI stia addestrando attraverso questo processo, utilizzando solo il nome in codice "Project Lily". È stato inoltre indicato che anche Anthropic ha confermato di avvalersi della revisione umana per migliorare i propri modelli.

Fonte della notizia: 12punto