Il lato oscuro dell'intelligenza artificiale: la Corea del Sud combatterà il problema dei 'falsi contenuti sessuali'

Nel Paese asiatico della Corea del Sud è emerso il problema dei 'falsi contenuti sessuali'. Le autorità di sicurezza sudcoreane hanno annunciato che verrà sviluppato un sistema di rilevamento per combattere i 'falsi contenuti sessuali' che hanno causato la vittimizzazione di molte persone.

In una dichiarazione rilasciata dalla polizia sudcoreana, è stato precisato che verrà effettuato un investimento di circa 6 milioni di dollari per creare un sistema in grado di rilevare i contenuti deepfake.

Secondo quanto riportato da Yonhap, in Corea del Sud proseguono i lavori per arginare l'aumento dei crimini legati a immagini e audio a sfondo sessuale generati dall'intelligenza artificiale. Nella dichiarazione delle autorità, è stato affermato che il completamento del progetto è previsto entro il 2027 e che, grazie al sistema, il rilevamento dei video deepfake subirà un'accelerazione.

In Corea del Sud, nel 2024, 573 sospettati sono stati presi in custodia in relazione a 1094 crimini legati ai deepfake.

In Corea del Sud era emerso che le immagini 'deepfake' venivano diffuse tramite Telegram. Le autorità avevano aperto un'indagine sull'applicazione di messaggistica.

IL CASO DEEPFAKE IN COREA DEL SUD

In Corea del Sud è stato rilevato che in alcuni gruppi di chat collegati a scuole e università venivano diffusi contenuti 'a sfondo sessuale' contenenti audio e immagini manipolati tramite il metodo 'deepfake', che vedevano come vittime numerose persone, in maggioranza donne e ragazze.

Il capo dell'Ufficio investigativo nazionale, Woo Jong-soo, aveva registrato l'apertura di un'indagine preliminare su Telegram, piattaforma su cui venivano diffuse tali immagini, con l'accusa di 'complicità in reato'.

I rappresentanti di Telegram, incontrando i funzionari della Commissione per gli standard di comunicazione della Corea del Sud (KCSC), avevano dichiarato di essere consapevoli della gravità del problema e avevano promesso l'applicazione di una 'politica di tolleranza zero', incluse misure rigorose contro tale materiale illegale.

Fonte della notizia: AA