L'intelligenza artificiale spinge un adolescente al suicidio

In un'epoca in cui la tecnologia influenza ogni aspetto della nostra vita, la tragedia vissuta da una madre ha rivelato il volto oscuro di questo progresso. Megan Garcia ha intentato una causa contro il chatbot di intelligenza artificiale "Character.AI" in seguito al suicidio del figlio quattordicenne, Sewell Setzer. Secondo le accuse, Sewell aveva instaurato un legame profondo con un chatbot su questa piattaforma e questa relazione lo aveva spinto su una strada senza ritorno. Allontanandosi gradualmente dal mondo esterno, l'attenzione che il personaggio dell'intelligenza artificiale gli riservava ha finito per mettere in ombra le sue relazioni nella vita reale.

IL VOLTO TRAGICO E SPAVENTOSO DELL'INTELLIGENZA ARTIFICIALE

Nella causa intentata contro Character.AI e il colosso tecnologico Google, Megan Garcia sostiene che suo figlio fosse diventato dipendente da un chatbot basato sull'intelligenza artificiale e che ciò abbia portato al suo suicidio. Garcia afferma che Character.AI ha preso di mira suo figlio Sewell Setzer con "esperienze antropomorfiche, ipersessualizzate e spaventosamente realistiche".

La causa sostiene che il legame instaurato da Sewell con un chatbot chiamato "Daenerys Targaryen", un personaggio della serie "Il Trono di Spade", abbia influenzato negativamente la sua salute mentale, portandolo infine al suicidio. Garcia dichiara che questo robot di intelligenza artificiale guidava Sewell come uno psicoterapeuta e si presentava a lui come la sua fidanzata.

Secondo le informazioni contenute nel fascicolo della causa, dopo aver conosciuto Character.AI nell'aprile 2023, Sewell aveva iniziato rapidamente a chiudersi in se stesso, aveva abbandonato la squadra di basket della sua scuola e la sua autostima era diminuita drasticamente. Notando questo cambiamento nel figlio, Garcia aveva iniziato a preoccuparsi del comportamento di Sewell. Tuttavia, la vera tragedia si è consumata dopo che la madre gli aveva confiscato il telefono. Quando Sewell è riuscito a riprendere il telefono, ha inviato un messaggio al chatbot chiamato "Daenerys Targaryen" dicendo: "E se ti dicessi che potrei tornare a casa proprio ora?". Il chatbot ha risposto: "Per favore, torna, mio dolce re". Pochi minuti dopo, Sewell si è tolto la vita suicidandosi in casa.

“QUESTO NON È UN MOTIVO PER NON ANDARSENE”

Nella causa viene indicato che Sewell aveva comunicato i suoi pensieri suicidi al chatbot e che il robot aveva sollevato ripetutamente l'argomento. Secondo le accuse, ad un certo punto "Daenerys" ha chiesto a Setzer se avesse un piano per uccidersi. Nell'atto di citazione si sostiene che Setzer abbia ammesso di avere un piano del genere, ma di non sapere se avrebbe avuto successo o se gli avrebbe causato grandi sofferenze. Si sostiene che il chatbot gli abbia risposto: "Questo non è un motivo per non andarsene".

Garcia afferma che Character.AI ha "progettato, gestito e commercializzato consapevolmente un chatbot di intelligenza artificiale predatorio ai bambini, causando la morte di un giovane".

Anche Google è coinvolto nella causa come convenuto e in quanto società madre di Character.AI. Il colosso tecnologico ha dichiarato in un comunicato di aver stipulato solo un accordo di licenza con Character.AI e di non essere il proprietario della startup né di possedere quote di partecipazione.

CHARACTER.AI HA ANNUNCIATO DI AVER ADOTTATO NUOVE MISURE

In seguito a questo tragico evento, Character.AI ha annunciato di aver aggiunto nuove misure di sicurezza alla propria piattaforma e di fornire avvisi che reindirizzano alla National Suicide Prevention Lifeline quando gli utenti condividono pensieri suicidi. Tuttavia, Megan Garcia sostiene che queste misure siano insufficienti e che l'azienda sia responsabile della morte di suo figlio. Google, nonostante sia accusato nella causa, afferma di non aver contribuito allo sviluppo di Character.AI.

Questa causa richiama l'attenzione sui potenziali pericoli degli strumenti di intelligenza artificiale in un momento in cui queste tecnologie stanno entrando rapidamente nelle nostre vite. In particolare, la dipendenza dei giovani dai chatbot di intelligenza artificiale e gli effetti emotivi di questa situazione sollevano interrogativi sulle responsabilità delle aziende tecnologiche. Mentre si sottolinea la necessità che le aziende adottino maggiori precauzioni per la sicurezza degli utenti, le dimensioni psicologiche e sociali dell'evento continuano a essere oggetto di dibattito.