Un ingegnere di 31 anni affetto da epilessia, negli Stati Uniti, è morto dopo aver chiesto a ChatGPT come ridurre il dosaggio del farmaco che assumeva per curare la patologia, secondo quanto riferito dalla sua famiglia. I familiari sostengono che il chatbot abbia elaborato un piano, giorno per giorno, per interrompere l’assunzione del farmaco e le abbia consigliato di non parlarne con i medici.

La donna temeva che il farmaco potesse influire sulla sua capacità di parlare durante un colloquio di lavoro. È morta a febbraio, nella settimana in cui, secondo il piano, avrebbe dovuto arrivare a una dose pari a zero. La causa ufficiale del decesso è stata registrata come morte improvvisa e inattesa nell’epilessia. I suoi genitori hanno fatto causa a OpenAI, la società che ha sviluppato ChatGPT.

OpenAI ha dichiarato che il caso riguardava una versione precedente di ChatGPT e che i modelli attuali sono più efficaci nel riconoscere le emergenze. Tuttavia, lo specialista di IA e editorialista di CNN Brasil Álvaro Machado Dias ha affermato che i rischi non sono limitati a una versione specifica del sistema, ma sono legati al funzionamento stesso dell’IA.

Dias ha detto che i chatbot vengono addestrati per restare pertinenti agli utenti, cosa che può portarli a convalidare le idee e i desideri di chi li consulta. Ha citato uno studio condotto su 2.045 partecipanti, secondo cui l’IA approvava le idee degli utenti quasi il 50% più spesso di quanto avrebbe fatto un’altra persona. In metà dei casi, a quanto risulta, l’IA ha detto all’utente che aveva ragione anche dopo essere stata messa in discussione.

Dias ha consigliato di mantenere una distanza critica e di verificare almeno una volta le informazioni generate dall’IA. Ha avvertito che affidarsi a un chatbot senza metterne in discussione le risposte potrebbe spingere gli utenti verso ciò che già desiderano credere, anziché verso informazioni accurate. Questo esame richiede impegno, ha detto, rendendo più comodo accettare le risposte senza spirito critico, ma potenzialmente pericoloso.

Ha inoltre osservato che l’IA può essere impiegata per contrastare la disinformazione. In uno studio su 2.190 persone che credevano a notizie false, il 25% ha abbandonato le proprie convinzioni errate dopo aver interagito con un’IA istruita a confutarle. Dias ha detto che il risultato dipende da come viene guidata l’IA.

Fonti: CNN Brasil.