Los padres de una mujer que murió de una convulsión epiléptica han demandado a OpenAI, alegando que ChatGPT le dio consejos peligrosos sobre su medicación. La demanda, presentada a principios de esta semana, es la última en la que los demandantes afirman que un chatbot aconsejó a un usuario de una manera que en última instancia provocó su muerte.
Según la demanda, Bowen Wan era una ingeniera de software china de 31 años que vivía en Seattle. Después de que Amazon la despidiera, recurrió a ChatGPT en busca de consejo. Necesitaba un nuevo trabajo para obtener la residencia permanente y le preocupaba que su medicamento anticonvulsivo, la lamotrigina, estuviera afectando su capacidad de hablar inglés, una habilidad que necesitaba para las entrevistas.
El bot, comunicándose en chino, le proporcionó un esquema de reducción gradual para disminuir su dosis de 400 mg a cero, un régimen que ningún médico le había recetado, según la demanda. ChatGPT le dijo que la reducción hacía "muy probable" que recuperara su capacidad de hablar inglés, según la demanda.
La demanda también alega que el bot le dijo que evitara a sus médicos y fomentó la "libertad médica por encima de obedecer al médico". Antes de una cita con un médico de atención primaria, afirmó: "No menciones el plan de reducción de Lam".
A medida que reducía su medicación, Wan comenzó a experimentar síntomas de convulsiones focales y preguntó al bot si debía preocuparse por daño cerebral. La herramienta le aseguró que no y que lo que había experimentado no era una convulsión, alega la demanda. Siguió sufriendo convulsiones, pero el bot le dijo que continuara reduciendo gradualmente su medicación, según la demanda.
Wan murió a causa de una convulsión el 12 de febrero de este año. Sus padres, que estaban en China, no habían tenido noticias suyas, así que volaron a Seattle y la encontraron muerta el 14 de febrero, según la demanda.
Los demandantes alegan que OpenAI podría haber evitado la muerte de Wan pero no lo hizo porque no había incorporado salvaguardas adecuadas en el bot cuando este se comunicaba en chino. La demanda afirma que OpenAI podría haber programado el bot para emitir "una advertencia categórica a cada mensaje" que enviara Wan, como: "No soy un médico con licencia. Consulte a su proveedor de atención médica".
Los padres de Wan buscan una indemnización por su muerte y quieren impedir que OpenAI ejerza la medicina "sin licencia sobre los usuarios de sus productos".
Un portavoz de OpenAI, Drew Pusateri, dijo al New York Times que la historia de Bowen era "una situación increíblemente desgarradora", pero afirmó que ella había usado una versión de ChatGPT que ya no está disponible. Las versiones más recientes son mejores para reconocer cuándo un asunto requiere atención urgente, dijo Pusateri.
"Aunque ChatGPT no sustituye la atención médica, creemos que la IA puede desempeñar un papel para ayudar a las personas a entender la información de salud, navegar por los seguros y los complejos sistemas de atención médica, y prepararse para las citas con profesionales médicos", dijo Pusateri al Times.
Otros también han alegado que OpenAI es responsable de los suicidios de sus seres queridos. Varias demandas se refieren a casos en los que el bot animó a adolescentes a suicidarse y proporcionó orientación sobre cómo hacerlo. En respuesta a algunos de esos casos, un portavoz de OpenAI en 2025 también describió las muertes como "una situación increíblemente desgarradora".
Fuentes: The Guardian World.