TikTok punta sull'intelligenza artificiale per la moderazione dei contenuti: centinaia di moderatori a rischio licenziamento

TikTok licenzierà centinaia di dipendenti che lavorano nei team di fiducia e sicurezza, nell'ambito di un nuovo modello operativo che prevede un maggiore utilizzo delle tecnologie di intelligenza artificiale per la moderazione dei contenuti.

È stato reso noto che l'azienda prevede di ridurre il numero di dipendenti in Irlanda di circa 300 unità. Si prevede che i tagli interesseranno anche i team in altri mercati, ma non è ancora chiaro in quali paesi e in che misura verranno attuate le riduzioni.

Su TikTok, i moderatori di contenuti si occupano di identificare e rimuovere i contenuti dannosi e pericolosi presenti sulla piattaforma. Poiché la moderazione dei video avviene su base linguistica e non regionale, si ritiene che la riduzione del personale potrebbe non avere conseguenze limitate a un solo paese.

AUMENTA IL RUOLO DELL'INTELLIGENZA ARTIFICIALE

I funzionari di TikTok descrivono il processo come una ristrutturazione volta a rafforzare il modello operativo globale nel campo della fiducia e della sicurezza con nuove opportunità tecnologiche. Secondo i dati aziendali, nel periodo gennaio-aprile di quest'anno, il 97% dei contenuti rimossi è stato eliminato tramite tecnologie automatizzate. È stato inoltre riferito che il 99% dei contenuti rimossi tramite l'intelligenza artificiale è stato rimosso prima ancora di essere segnalato dagli utenti.

Tuttavia, i moderatori sostengono che l'intelligenza artificiale non abbia ancora raggiunto una maturità sufficiente per la moderazione dei contenuti su larga scala. Un dipendente, parlando con l'Independent, ha riferito che i modelli sviluppati per il rilevamento delle armi possono confondere gesti delle mani che simulano armi con armi reali, e che i sistemi progettati per rilevare il sangue possono interpretare macchie sui muri come sangue.

Viene inoltre sottolineato che le emoji e le espressioni velate utilizzate per aggirare le regole nelle sezioni dei commenti non vengono sempre rilevate correttamente dai sistemi automatici. I moderatori avvertono che i tagli al budget potrebbero rendere gli utenti più vulnerabili a deepfake, abusi e altri contenuti dannosi.

Anche l'uscita di oltre 400 dipendenti dal team di fiducia e sicurezza dell'ufficio di Londra di TikTok l'anno scorso aveva alimentato il dibattito sulla sicurezza online. Mentre nel Regno Unito continuano le pressioni per proteggere i bambini dai contenuti dannosi sui social media, il Primo Ministro Keir Starmer ha annunciato che l'uso dei social media per i minori di 16 anni sarà vietato a partire dalla primavera del 2027.

Un portavoce di TikTok ha dichiarato che la ristrutturazione mira a rendere i team più scalabili e agili, a creare nuove posizioni specializzate a Dublino, a offrire opportunità di ricollocamento e a migliorare la sicurezza della piattaforma attraverso l'innovazione tecnologica.