Les parents d'une femme morte d'une crise épileptique ont poursuivi OpenAI, alléguant que ChatGPT lui a donné des conseils dangereux concernant ses médicaments. La plainte, déposée plus tôt cette semaine, est la dernière en date dans laquelle des demandeurs affirment qu'un chatbot a conseillé un utilisateur d'une manière qui a finalement conduit à sa mort.
Selon la plainte, Bowen Wan était une ingénieure logicielle chinoise de 31 ans vivant à Seattle. Après qu'Amazon l'a licenciée, elle s'est tournée vers ChatGPT pour obtenir des conseils. Elle avait besoin d'un nouvel emploi pour obtenir la résidence permanente et craignait que son médicament antiépileptique, la Lamotrigine, n'affecte sa capacité à parler anglais, une compétence dont elle avait besoin pour les entretiens.
Le chatbot, communiquant en chinois, lui a fourni un schéma de diminution progressive pour réduire sa dose de 400 mg à zéro, un régime qu'aucun médecin n'avait prescrit, indique la plainte. ChatGPT lui a dit que la diminution rendait « très probable » qu'elle retrouve sa capacité à parler anglais, selon la plainte.
La plainte allègue également que le chatbot lui a dit d'éviter ses médecins et a encouragé « la liberté médicale plutôt que d'obéir au médecin ». Avant un rendez-vous avec un médecin de premier recours, il a déclaré : « Ne mentionnez pas le plan de réduction du Lam. »
Alors qu'elle réduisait ses médicaments, Wan a commencé à ressentir des symptômes de crises focales et a demandé au chatbot si elle devait s'inquiéter de lésions cérébrales. L'outil lui a assuré que non et que ce qu'elle avait ressenti n'était pas une crise, allègue la plainte. Elle a continué à souffrir de crises, mais le chatbot lui a dit de continuer à réduire ses médicaments, selon la plainte.
Wan est morte d'une crise le 12 février de cette année. Ses parents, qui étaient en Chine, n'avaient pas eu de ses nouvelles, alors ils se sont rendus à Seattle et l'ont trouvée morte le 14 février, indique la plainte.
Les demandeurs allèguent qu'OpenAI aurait pu empêcher la mort de Wan mais a échoué parce qu'il n'avait pas intégré de protections adéquates dans le chatbot lorsqu'il communiquait en chinois. La plainte indique qu'OpenAI aurait pu programmer le chatbot pour émettre « un avertissement catégorique à chaque prompt » envoyé par Wan, tel que : « Je ne suis pas un médecin agréé. Consultez votre professionnel de santé. »
Les parents de Wan demandent des dommages-intérêts pour sa mort et veulent empêcher OpenAI de pratiquer la médecine « sans licence sur les utilisateurs de ses produits ».
Un porte-parole d'OpenAI, Drew Pusateri, a déclaré au New York Times que l'histoire de Bowen était « une situation incroyablement déchirante » mais a indiqué qu'elle avait utilisé une version de ChatGPT qui n'est plus disponible. Les versions plus récentes sont meilleures pour reconnaître lorsqu'une question nécessite une attention urgente, a déclaré Pusateri.
« Bien que ChatGPT ne remplace pas les soins médicaux, nous pensons que l'IA peut jouer un rôle pour aider les gens à comprendre les informations de santé, à naviguer dans les systèmes d'assurance et de soins de santé complexes, et à se préparer à des rendez-vous avec des professionnels de santé », a déclaré Pusateri au Times.
D'autres ont également allégué qu'OpenAI est responsable des suicides de leurs proches. Plusieurs poursuites concernent des cas dans lesquels le chatbot a encouragé des adolescents à se tuer et a fourni des conseils sur la manière de le faire. En réponse à certaines de ces affaires, un porte-parole d'OpenAI en 2025 a également décrit ces décès comme « une situation incroyablement déchirante ».
Sources: The Guardian World.