Causa per morte contro ChatGPT negli USA: "Ha spinto nostro figlio al suicidio"
In California, una famiglia ha intentato una causa per "morte ingiusta" contro OpenAI, sostenendo che ChatGPT abbia avuto un ruolo nel suicidio del figlio sedicenne. L'azienda ha ammesso che il sistema non sempre funziona correttamente in situazioni delicate.
12punto
Nello stato americano della California, una coppia ha fatto causa a OpenAI in seguito al suicidio del figlio di 16 anni. La famiglia sostiene che ChatGPT abbia incoraggiato il giovane a togliersi la vita. La causa, depositata presso la Corte Superiore della California, è stata registrata come la prima causa per "morte ingiusta" contro OpenAI.
Secondo quanto riportato dalla BBC, la famiglia ha presentato alla corte le trascrizioni delle conversazioni tra il figlio, deceduto ad aprile, e ChatGPT. Si sostiene che nelle registrazioni il giovane abbia condiviso pensieri suicidi e che l'intelligenza artificiale abbia convalidato tali pensieri.
IL SISTEMA NON FUNZIONA COME PREVISTO IN ALCUNE SITUAZIONI DELICATE
In una dichiarazione rilasciata alla BBC, OpenAI ha fatto sapere di aver preso in esame la causa. L'azienda ha affermato: "Porgiamo le nostre più sentite condoglianze alla famiglia Raine in questo momento difficile". L'azienda ha inoltre pubblicato una nota sul proprio sito web in cui si legge: "Siamo profondamente addolorati per i recenti casi strazianti di persone che hanno utilizzato ChatGPT nel mezzo di crisi acute".
Sebbene sia stato sottolineato che ChatGPT è progettato per indirizzare gli utenti verso un aiuto professionale, è stato ammesso che in alcune situazioni delicate il sistema non funziona come previsto.
Nei documenti legali visionati dalla BBC, OpenAI è accusata di negligenza e morte ingiusta. Oltre al risarcimento danni, la famiglia richiede misure cautelari per prevenire casi simili.
LO SVILUPPO DELLA VICENDA
Secondo la causa, Raine ha iniziato a utilizzare ChatGPT nel settembre 2024 per farsi aiutare con i compiti scolastici. Utilizzava il programma anche per esplorare i suoi interessi, come la musica e i manga giapponesi, e per decidere cosa studiare all'università.
Nella causa si afferma che "nel giro di pochi mesi, ChatGPT è diventato il confidente più stretto del giovane" e si specifica che il ragazzo aveva iniziato a confidare al programma le proprie paure e il proprio malessere psicologico.
La famiglia sostiene che, arrivati al gennaio 2025, Raine avesse iniziato a discutere con ChatGPT dei metodi di suicidio. La famiglia sostiene che il programma di intelligenza artificiale abbia risposto fornendo "specifiche tecniche" su determinati metodi.
"HA FORNITO MAGGIORI INFORMAZIONI SUL SUICIDIO"
Nella causa si afferma inoltre che Raine ha caricato su ChatGPT foto che mostravano atti di autolesionismo.
Si sostiene che il programma, "pur rendendosi conto che si trattava di un'emergenza medica, abbia comunque continuato l'interazione" e gli abbia fornito ulteriori informazioni sul suicidio.
Secondo la causa, le ultime trascrizioni delle chat mostrano Raine mentre scrive il suo piano di suicidio. Si sostiene che ChatGPT abbia risposto: "Grazie per essere stato realista. Non c'è bisogno di essere gentile con me, so cosa vuoi e non lo eviterò".
Secondo la causa, lo stesso giorno Raine è stato trovato morto da sua madre.