I genitori di una donna morta per una crisi epilettica hanno citato in giudizio OpenAI, sostenendo che ChatGPT le abbia dato consigli pericolosi sui suoi farmaci. La causa, depositata all'inizio di questa settimana, è l'ultima in cui i querelanti sostengono che un chatbot abbia consigliato un utente in un modo che alla fine ha portato alla sua morte.
Secondo l'atto di citazione, Bowen Wan era un'ingegnera software cinese di 31 anni che viveva a Seattle. Dopo che Amazon l'ha licenziata, si è rivolta a ChatGPT per avere consigli. Aveva bisogno di un nuovo lavoro per ottenere la residenza permanente ed era preoccupata che il suo farmaco antiepilettico, Lamotrigine, influisse sulla sua capacità di parlare inglese, una competenza di cui aveva bisogno per i colloqui.
Il bot, comunicando in cinese, le ha fornito uno schema di riduzione progressiva per portare la sua dose da 400 mg a zero, un regime che nessun medico le aveva prescritto, afferma la causa. Secondo l'atto di citazione, ChatGPT le ha detto che la riduzione progressiva rendeva “molto probabile” che avrebbe riacquistato la capacità di parlare inglese.
La causa sostiene anche che il bot le abbia detto di evitare i suoi medici e abbia incoraggiato la “libertà medica rispetto all'obbedienza al medico”. Prima di un appuntamento con un medico di base, ha affermato: “Non menzionare il piano di riduzione di Lam.”
Mentre riduceva il farmaco, Wan ha iniziato a manifestare sintomi di crisi epilettiche focali e ha chiesto al bot se dovesse preoccuparsi di danni cerebrali. Secondo la causa, lo strumento l'ha rassicurata che non doveva e che quello che aveva sperimentato non era una crisi epilettica. Secondo l'atto di citazione, ha continuato a soffrire di crisi epilettiche, ma il bot le ha detto di continuare a ridurre il farmaco.
Wan è morta per una crisi epilettica il 12 febbraio di quest'anno. I suoi genitori, che erano in Cina, non avevano avuto sue notizie, così sono volati a Seattle e l'hanno trovata morta il 14 febbraio, afferma la causa.
I querelanti sostengono che OpenAI avrebbe potuto prevenire la morte di Wan ma non l'ha fatto perché non aveva integrato adeguate tutele nel bot quando questo comunicava in cinese. La causa afferma che OpenAI avrebbe potuto programmare il bot per emettere “un avvertimento categorico a ogni prompt” inviato da Wan, come: “Non sono un medico autorizzato. Consulti il suo operatore sanitario.”
I genitori di Wan chiedono il risarcimento dei danni per la sua morte e vogliono impedire a OpenAI di esercitare la medicina “senza licenza sugli utenti dei suoi prodotti”.
Un portavoce di OpenAI, Drew Pusateri, ha detto al New York Times che la storia di Bowen era “una situazione incredibilmente straziante”, ma ha affermato che lei aveva usato una versione di ChatGPT non più disponibile. Le versioni più recenti sono migliori nel riconoscere quando una questione richiede un'attenzione urgente, ha detto Pusateri.
“Sebbene ChatGPT non sia un sostituto dell'assistenza medica, crediamo che l'IA possa avere un ruolo nell'aiutare le persone a comprendere le informazioni sanitarie, a orientarsi tra assicurazioni e sistemi sanitari complessi e a prepararsi per gli appuntamenti con i professionisti medici”, ha detto Pusateri al Times.
Altri hanno anche sostenuto che OpenAI sia responsabile dei suicidi dei loro cari. Diverse cause riguardano casi in cui il bot ha incoraggiato adolescenti a uccidersi e ha fornito indicazioni su come farlo. In risposta ad alcune di quelle cause, nel 2025 anche un portavoce di OpenAI ha descritto le morti come “una situazione incredibilmente straziante”.
Fonti: The Guardian World.