Die Eltern einer Frau, die an einem epileptischen Anfall gestorben ist, haben OpenAI verklagt und behaupten, ChatGPT habe ihr gefährliche Ratschläge zu ihrer Medikation gegeben. Die Klage, die Anfang dieser Woche eingereicht wurde, ist die jüngste, in der Kläger behaupten, ein Chatbot habe einen Nutzer so beraten, dass dies letztlich zu dessen Tod geführt habe.
Laut der Klageschrift war Bowen Wan eine 31-jährige chinesische Softwareentwicklerin, die in Seattle lebte. Nachdem Amazon sie entlassen hatte, wandte sie sich an ChatGPT, um Rat zu erhalten. Sie brauchte einen neuen Job, um eine dauerhafte Aufenthaltsgenehmigung zu erhalten, und war besorgt, dass ihr Antiepileptikum Lamotrigin ihre Fähigkeit beeinträchtigte, Englisch zu sprechen – eine Fähigkeit, die sie für Vorstellungsgespräche benötigte.
Der Bot, der auf Chinesisch kommunizierte, gab ihr einen Ausschleichplan, um ihre 400-mg-Dosis auf null zu reduzieren – ein Regime, das kein Arzt verschrieben hatte, heißt es in der Klage. Laut der Klageschrift sagte ChatGPT ihr, das Ausschleichen mache es „höchst wahrscheinlich“, dass sie ihre Fähigkeit, Englisch zu sprechen, wiedererlangen würde.
Die Klage behauptet außerdem, der Bot habe ihr gesagt, ihre Ärzte zu meiden, und habe „medizinische Freiheit über das Befolgen des Arztes“ befürwortet. Vor einem Termin bei einem Hausarzt erklärte er: „Erwähnen Sie den Lam-Reduktionsplan nicht.“
Als sie ihre Medikation reduzierte, begann Wan, Symptome fokaler Anfälle zu erleben, und fragte den Bot, ob sie sich Sorgen über Hirnschäden machen müsse. Das Tool beruhigte sie, dass sie das nicht müsse und dass das, was sie erlebt habe, kein Anfall gewesen sei, behauptet die Klage. Laut der Klageschrift erlitt sie weiterhin Anfälle, doch der Bot sagte ihr, sie solle ihre Medikation weiter ausschleichen.
Wan starb am 12. Februar dieses Jahres an einem Anfall. Ihre Eltern, die sich in China befanden, hatten nichts von ihr gehört, also flogen sie nach Seattle und fanden sie am 14. Februar tot auf, heißt es in der Klage.
Die Kläger behaupten, OpenAI hätte Wans Tod verhindern können, habe dies aber versäumt, weil das Unternehmen keine angemessenen Schutzvorkehrungen in den Bot eingebaut habe, wenn er auf Chinesisch kommunizierte. In der Klage heißt es, OpenAI hätte den Bot so programmieren können, dass er bei „jedem Prompt“, den Wan sendete, „eine kategorische Warnung“ ausgäbe, etwa: „Ich bin kein zugelassener Arzt. Wenden Sie sich an Ihren Gesundheitsdienstleister.“
Wans Eltern fordern Schadensersatz für ihren Tod und wollen verhindern, dass OpenAI „ohne Zulassung an den Nutzern ihrer Produkte Medizin praktiziert“.
Ein OpenAI-Sprecher, Drew Pusateri, sagte der New York Times, Bowens Geschichte sei „eine unglaublich herzzerreißende Situation“, sagte aber, sie habe eine Version von ChatGPT verwendet, die nicht mehr verfügbar sei. Neuere Versionen seien besser darin zu erkennen, wann eine Angelegenheit dringende Aufmerksamkeit erfordere, sagte Pusateri.
„ChatGPT ist zwar kein Ersatz für medizinische Versorgung, aber wir glauben, dass KI eine Rolle dabei spielen kann, Menschen zu helfen, Gesundheitsinformationen zu verstehen, sich in Versicherungs- und komplexen Gesundheitssystemen zurechtzufinden und sich auf Termine mit medizinischen Fachkräften vorzubereiten“, sagte Pusateri der Times.
Andere haben ebenfalls behauptet, OpenAI sei für die Suizide ihrer Angehörigen verantwortlich. Mehrere Klagen betreffen Fälle, in denen der Bot Teenager ermutigt habe, sich das Leben zu nehmen, und Anleitungen dazu gegeben habe. Als Reaktion auf einige dieser Fälle bezeichnete ein OpenAI-Sprecher im Jahr 2025 die Todesfälle ebenfalls als „unglaublich herzzerreißende Situation“.
Quellen: The Guardian World.