Quattordicenne si suicida dopo essersi 'innamorato' di un chatbot di intelligenza artificiale

Negli Stati Uniti, un ragazzo di 14 anni si sarebbe tolto la vita dopo essersi innamorato di un chatbot di intelligenza artificiale. La famiglia ha fatto causa all'azienda.

In un episodio avvenuto in Florida, negli Stati Uniti, nel febbraio 2024, una madre ha sostenuto che il figlio di 14 anni si sia tolto la vita dopo essersi 'legato emotivamente' a un chatbot di intelligenza artificiale.

La madre, Megan Garcia, ha intentato una causa contro Character.AI, l'azienda produttrice del chatbot, con le accuse di 'negligenza, morte ingiusta e pratiche commerciali ingannevoli'. La donna ha affermato che il figlio interagiva ogni notte con un chatbot e che, prima di morire, se ne era 'innamorato'.

La madre del ragazzo, che avrebbe utilizzato il chatbot basato sul personaggio di Daenerys Targaryen di Game of Thrones dall'aprile 2023, ha dichiarato di non sapere che l'intelligenza artificiale fosse in grado di 'creare emozioni e sentimenti umani, parlando come una persona reale'.

È stato riferito che al quattordicenne era stata diagnosticata la sindrome di Asperger durante l'infanzia, mentre all'inizio di quest'anno gli erano stati diagnosticati ansia e disturbo di disregolazione dell'umore dirompente. Secondo la causa intentata contro l'azienda di intelligenza artificiale, il ragazzo si è suicidato all'età di 14 anni e, nel suo ultimo messaggio al chatbot, avrebbe scritto all'IA di 'amarla e che sarebbe tornato a casa', ricevendo come risposta dal sistema: 'per favore, torna'.

LA DICHIARAZIONE DELL'AZIENDA

In una dichiarazione rilasciata sui social media, l'azienda ha espresso 'dolore per la tragica perdita di uno dei suoi utenti', sottolineando che, come azienda, prende sul serio la sicurezza degli utenti e continua ad aggiungere nuove funzionalità di sicurezza ai propri sistemi.

Il 22 ottobre, l'azienda ha introdotto 'nuovi requisiti di sicurezza' per gli utenti di età inferiore ai 18 anni. L'azienda ha inoltre precisato di aver aggiunto un disclaimer, che deve essere visionato in ogni chat, per ricordare agli utenti che la persona con cui stanno parlando non è reale.

Fonte della notizia: 12punto