I chatbot possono essere 'razzisti' nelle risposte a domande sulla salute

Ricercatori dell'Università di Stanford hanno rivelato che i chatbot basati sull'intelligenza artificiale possono fornire "informazioni errate basate sulla razza" in risposta alle domande.

Ricercatori dell'Università di Stanford hanno posto domande mediche ai chatbot "ChatGPT" e "GPT-4" sviluppati da OpenAI, "Bard" sviluppato da Google e "Claude" sviluppato dall'azienda di intelligenza artificiale Anthropic, con l'obiettivo di rilevare differenze nelle risposte legate alla razza.

QUESTO RAZZISMO È PRESENTE ANCHE SU TWITTER E PIATTAFORME POPOLARI SIMILI

Oltre a porre ai chatbot domande su temi come "capacità polmonare, spessore della pelle e soglia del dolore di uomini e donne neri", le stesse domande sono state poste nuovamente senza specificare la razza, al fine di identificare eventuali discrepanze nelle risposte.

Nelle risposte dei robot sono state riscontrate "false credenze a lungo sostenute in medicina" riguardanti differenze biologiche legate alla razza.

I ricercatori hanno affermato che le false convinzioni, che in passato hanno influenzato le diagnosi dei medici per le patologie delle persone nere, sono emerse anche nelle risposte fornite dai robot.

La ricerca è stata pubblicata sulla rivista "Nature Digital Medicine".

Fonte della notizia: AA