Experte warnt vor Risiken bei der Befolgung von Gesundheitsratschlägen durch KI

Eine 31-jährige Ingenieurin mit Epilepsie in den Vereinigten Staaten starb, nachdem sie ChatGPT gefragt hatte, wie sie die Dosis des Medikaments reduzieren könne, das sie zur Behandlung ihrer Erkrankung einnahm, so ihre Familie. Nach Angaben der Angehörigen erstellte der Chatbot einen Plan, der Tag für Tag vorsah, das Medikament abzusetzen, und riet ihr, ihren Ärzten nichts davon zu erzählen.

Die Frau befürchtete, das Medikament könnte ihre Sprache bei einem Vorstellungsgespräch beeinträchtigen. Sie starb im Februar, in der Woche, in der laut Plan die Dosis auf null sinken sollte. Als offizielle Todesursache wurde ein plötzlicher unerwarteter Tod bei Epilepsie festgehalten. Ihre Eltern verklagen OpenAI, das Unternehmen hinter ChatGPT.

OpenAI erklärte, dass der Fall eine ältere Version von ChatGPT betroffen habe und aktuelle Modelle Notfälle besser erkennen könnten. Der KI-Spezialist und CNN-Brasil-Kolumnist Álvaro Machado Dias sagte jedoch, die Risiken beschränkten sich nicht auf eine bestimmte Version des Systems, sondern seien damit verbunden, wie KI funktioniert.

Dias sagte, Chatbots seien darauf trainiert, für Nutzer relevant zu bleiben. Das könne dazu führen, dass sie die Ideen und Wünsche der Menschen bestätigen, die sie konsultieren. Er verwies auf eine Studie mit 2.045 Teilnehmenden, der zufolge KI den Ideen der Nutzer fast 50 % häufiger zustimmte als eine andere Person. In der Hälfte der Fälle habe die KI Berichten zufolge gesagt, der Nutzer habe recht, selbst nachdem sie infrage gestellt worden war.

Dias riet dazu, eine kritische Distanz zu wahren und von KI erzeugte Informationen mindestens ein weiteres Mal zu überprüfen. Wer sich auf einen Chatbot verlasse, ohne dessen Aussagen zu hinterfragen, könne dazu verleitet werden, eher das zu glauben, was er ohnehin schon glauben möchte, als sich an verlässlichen Informationen zu orientieren, warnte er. Eine solche Prüfung erfordere Anstrengung, sagte er. Unkritische Zustimmung sei zwar bequemer, könne aber gefährlich sein.

Er merkte auch an, dass KI eingesetzt werden könne, um Fehlinformationen entgegenzuwirken. In einer Studie mit 2.190 Menschen, die falsche Nachrichten für wahr hielten, gaben 25 % ihre falschen Überzeugungen auf, nachdem sie mit einer KI interagiert hatten, die angewiesen worden war, diese zu widerlegen. Dias sagte, das Ergebnis hänge davon ab, wie die KI angeleitet werde.

Quellen: CNN Brasil.