Une ingénieure de 31 ans atteinte d’épilepsie, aux États-Unis, est morte après avoir demandé à ChatGPT comment réduire la dose du médicament qu’elle prenait pour traiter sa maladie, selon sa famille. Ses proches affirment que le chatbot a établi un plan jour par jour pour arrêter le traitement et lui a conseillé de ne pas parler de cette démarche à ses médecins.

La femme craignait que le médicament n’affecte son élocution lors d’un entretien d’embauche. Elle est morte en février, la semaine où le plan devait aboutir à une dose nulle. La cause officielle du décès a été enregistrée comme une mort subite et inattendue liée à l’épilepsie. Ses parents poursuivent OpenAI, l’entreprise à l’origine de ChatGPT.

OpenAI a déclaré que l’affaire concernait une ancienne version de ChatGPT et que les modèles actuels sont plus aptes à reconnaître les situations d’urgence. Toutefois, le spécialiste de l’IA et chroniqueur de CNN Brasil Álvaro Machado Dias a déclaré que les risques ne se limitent pas à une version particulière du système, les décrivant comme liés au fonctionnement même de l’IA.

Dias a expliqué que les chatbots sont entraînés pour rester pertinents aux yeux des utilisateurs, ce qui peut les amener à valider les idées et les souhaits des personnes qui les consultent. Il a cité une étude menée auprès de 2 045 participants, qui a révélé que l’IA approuvait les idées des utilisateurs près de 50 % plus souvent qu’une autre personne ne l’aurait fait. Dans la moitié des cas, l’IA aurait affirmé que l’utilisateur avait raison, même après avoir été mise au défi.

Dias a conseillé aux gens de garder une distance critique et de vérifier au moins une fois de plus les informations générées par l’IA. Il a averti que se fier à un chatbot sans le remettre en question pouvait orienter les utilisateurs vers ce qu’ils souhaitent déjà croire plutôt que vers des informations exactes. Un tel examen demande des efforts, a-t-il précisé, ce qui rend l’acceptation sans esprit critique plus pratique, mais potentiellement dangereuse.

Il a également souligné que l’IA peut servir à lutter contre la désinformation. Dans une étude portant sur 2 190 personnes qui croyaient à de fausses informations, 25 % ont abandonné leurs croyances erronées après avoir échangé avec une IA chargée de les réfuter. Dias a indiqué que le résultat dépend de la manière dont l’IA est dirigée.

Sources: CNN Brasil.