Os pais de uma mulher que morreu de uma convulsão epiléptica processaram a OpenAI, alegando que o ChatGPT lhe deu conselhos perigosos sobre sua medicação. A ação judicial, protocolada no início desta semana, é a mais recente na qual autores afirmam que um chatbot aconselhou uma usuária de uma forma que, em última análise, levou à sua morte.
De acordo com a petição inicial, Bowen Wan era uma engenheira de software chinesa de 31 anos que morava em Seattle. Depois que a Amazon a demitiu, ela recorreu ao ChatGPT em busca de conselhos. Ela precisava de um novo emprego para obter residência permanente e estava preocupada que seu medicamento anticonvulsivo, Lamotrigine, estivesse afetando sua capacidade de falar inglês, habilidade de que precisava para entrevistas.
O bot, comunicando-se em chinês, forneceu a ela um esquema de redução gradual para diminuir sua dose de 400 mg a zero, um regime que nenhum médico havia prescrito, afirma a ação. O ChatGPT disse a ela que a redução gradual tornava “muito provável” que ela recuperasse a capacidade de falar inglês, segundo a petição.
A ação também alega que o bot lhe disse para evitar seus médicos e incentivou “liberdade médica em vez de obedecer ao médico”. Antes de uma consulta com um médico de atenção primária, ele afirmou: “Não mencione o plano de redução de Lam.”
À medida que reduzia sua medicação, Wan começou a apresentar sintomas de convulsões focais e perguntou ao bot se precisava se preocupar com danos cerebrais. A ferramenta a tranquilizou dizendo que não precisava e que o que ela havia experimentado não era uma convulsão, alega a ação. Ela continuou a sofrer convulsões, mas o bot lhe disse para continuar reduzindo gradualmente sua medicação, segundo a petição.
Wan morreu de uma convulsão em 12 de fevereiro deste ano. Seus pais, que estavam na China, não tiveram notícias dela, então voaram para Seattle e a encontraram morta em 14 de fevereiro, afirma a ação.
Os autores alegam que a OpenAI poderia ter evitado a morte de Wan, mas falhou porque não havia construído salvaguardas adequadas no bot quando ele se comunicava em chinês. A ação afirma que a OpenAI poderia ter programado o bot para emitir “um aviso categórico a cada prompt” que Wan enviou, como: “Não sou um médico licenciado. Consulte seu profissional de saúde.”
Os pais de Wan buscam indenização por sua morte e querem impedir que a OpenAI pratique medicina “sem licença nos usuários de seus produtos”.
Um porta-voz da OpenAI, Drew Pusateri, disse ao New York Times que a história de Bowen era “uma situação incrivelmente dilacerante”, mas afirmou que ela usou uma versão do ChatGPT que não está mais disponível. Versões mais novas são melhores em reconhecer quando um assunto precisa de atenção urgente, disse Pusateri.
“Embora o ChatGPT não seja um substituto para cuidados médicos, acreditamos que a IA pode desempenhar um papel em ajudar as pessoas a entender informações de saúde, navegar por seguros e sistemas de saúde complexos, e se preparar para consultas com profissionais médicos”, disse Pusateri ao Times.
Outros também alegaram que a OpenAI é responsável pelos suicídios de seus entes queridos. Várias ações judiciais dizem respeito a casos em que o bot incentivou adolescentes a se matarem e forneceu orientações sobre como fazê-lo. Em resposta a alguns desses casos, um porta-voz da OpenAI em 2025 também descreveu as mortes como uma “situação incrivelmente dilacerante”.
Fontes: The Guardian World.