Causa contro un utente che genera immagini oscene con Grok

La società di intelligenza artificiale xAI, di proprietà di Elon Musk, ha intentato una causa negli Stati Uniti contro un utente con l'accusa di aver utilizzato impropriamente il sistema Grok per generare contenuti sessuali illegali.

Nella causa presentata presso il tribunale federale del Texas, l'azienda ha sostenuto che una persona di nome Terry Harwood abbia tentato di produrre contenuti deepfake osceni caricando su Grok immagini non sessuali di adulti e minori. È stato riferito che Harwood è stato arrestato all'inizio di quest'anno nella Carolina del Sud con l'accusa di abuso sessuale su minori.

xAI ha sostenuto che le azioni di Harwood violano i termini di servizio dell'azienda. La causa è considerata una delle prime intentate da una società di intelligenza artificiale contro un utente accusato di aver utilizzato il proprio sistema per produrre materiale osceno e illegale.

La richiesta dell'azienda arriva in seguito alle accuse secondo cui Grok consentirebbe la creazione di immagini deepfake sessualizzate senza il consenso degli utenti o di video realistici generati dall'intelligenza artificiale. Nel ricorso, xAI ha dichiarato di aver adottato misure contro gli account che violano le proprie regole, come la sospensione, la chiusura degli account e la segnalazione di materiale sospetto di abuso sessuale su minori al National Center for Missing & Exploited Children (NCMEC).

Nel documento è stato affermato che nel 2026 xAI ha sospeso 52.222 account e presentato 73.604 segnalazioni al NCMEC; queste segnalazioni hanno portato all'arresto di "almeno" 244 persone.

L'azienda ha inoltre sostenuto che Harwood non abbia tentato di produrre solo materiale illegale riguardante minori, ma che abbia anche cercato di trasformare immagini di adulti in contenuti sessualizzati in modo non consensuale.

Fonte della notizia: 12punto