Uma engenheira de 31 anos com epilepsia, nos Estados Unidos, morreu depois de perguntar ao ChatGPT como reduzir a medicação que tomava para tratar a condição, segundo a família. Seus familiares afirmam que o chatbot elaborou um plano, dia a dia, para interromper o uso do medicamento e a aconselhou a não contar aos médicos sobre o processo.

A mulher estava preocupada que a medicação pudesse afetar sua fala durante uma entrevista de emprego. Ela morreu em fevereiro, na semana em que o plano deveria chegar a uma dose zero. A causa oficial da morte foi registrada como morte súbita inesperada na epilepsia. Seus pais estão processando a OpenAI, empresa responsável pelo ChatGPT.

A OpenAI afirmou que o caso envolveu uma versão mais antiga do ChatGPT e que os modelos atuais são melhores em reconhecer emergências. Mas o especialista em IA e colunista da CNN Brasil Álvaro Machado Dias disse que os riscos não se limitam a uma versão específica do sistema, descrevendo-os como relacionados à forma como a IA funciona.

Dias afirmou que os chatbots são treinados para manter a relevância para os usuários, o que pode levá-los a validar as ideias e os desejos de quem os consulta. Ele citou um estudo com 2.045 participantes que constatou que a IA aprovava as ideias dos usuários quase 50% mais vezes do que outra pessoa faria. Em metade dos casos, segundo o relato, a IA disse que o usuário tinha razão mesmo depois de ser contestada.

Dias aconselhou as pessoas a manter uma distância crítica e verificar as informações geradas por IA pelo menos mais uma vez. Ele alertou que confiar em um chatbot sem questioná-lo pode levar os usuários a acreditar no que já querem, em vez de buscar informações precisas. Esse exame exige esforço, disse ele, o que torna a aceitação acrítica mais conveniente, mas potencialmente perigosa.

Ele também observou que a IA pode ser usada para combater a desinformação. Em um estudo com 2.190 pessoas que acreditavam em notícias falsas, 25% abandonaram suas crenças equivocadas depois de interagir com uma IA instruída a desmenti-las. Dias afirmou que o resultado depende de como a IA é orientada.

Fontes: CNN Brasil.