Um promotor sênior representando o Serviço de Promoção da Coroa (CPS) citou um precedente legal inexistente em um caso no tribunal superior, reacendendo alertas sobre alucinações de inteligência artificial infiltrando-se nos processos judiciais. Documentos do tribunal revelam que Ravinder Dhillon, atuando pelo CPS, referenciou um caso inteiramente inventado enquanto argumentava sobre a acusação de um menino de 11 anos por suposto estupro de sua irmã de sete anos.

O incidente atraiu críticas severas de dois juízes sênior do tribunal superior, que rotularam a explicação para o erro como insatisfatória, e de Brian Flanagan, professor associado de direito na Universidade de Maynooth especializado em IA e direito, que o qualificou como uma falha grave. O Guardian relata que a citação fictícia originou-se de uma resposta gerada por IA durante uma busca na internet. Este caso soma-se a dezenas de erros semelhantes que assolam os processos judiciais este ano, embora marque apenas a segunda instância conhecida envolvendo o próprio CPS.

Em fevereiro, o CPS admitiu que um de seus advogados havia citado autoridades legais inexistentes em um caso de extradição envolvendo dois romenos, provavelmente devido ao uso de IA. Esses erros foram descobertos quando a defesa oposta não conseguiu localizar os casos, levando o CPS a concluir na época que o risco de recorrência era baixo. No assunto atual, Dhillon argumentou pela acusação submetendo uma referência detalhada a um caso intitulado CPS – R v J [2024] EWCA Crim 3529, que não existe.

A decisão de prosseguir com a acusação foi tomada por Dhillon em abril e confirmada pelo promotor-geral da coroa. No entanto, em outubro, Dhillon admitiu que a citação era um erro, afirmando que pretendia referenciar uma decisão real feita há 15 anos. Flanagan enfatizou que usar uma fonte legal inexistente para argumentar pela acusação de uma criança mina a confiança na lei, observando que, embora os profissionais não devam fabricar autoridades, as apostas são mais altas quando o estado está envolvido devido ao seu imenso poder.

O tribunal superior decidiu que a referência ao caso fictício não afetou o resultado do desafio do menino contra a decisão de acusação. O julgamento está agendado para ocorrer nos tribunais de jovens no final desta semana. Este incidente segue um aviso emitido em junho de 2025 por Dame Victoria Sharp, então presidente da Divisão do Banco do Rei, que instou os órgãos jurídicos a conter urgentemente o mau uso da IA, alertando que advogados poderiam enfrentar sanções variando de admoestação pública a processos por desacato ao tribunal.

Em resposta, o CPS afirmou manter uma política estrita de IA que limita seu uso para tomada de decisões legais e exige verificações humanas para precisão. Um porta-voz confirmou que um erro ocorreu durante pesquisas jurídicas baseadas na internet, o que foi imediatamente corrigido após uma revisão interna. A agência observou que as lições aprendidas foram compartilhadas para garantir que a jurisprudência seja citada apenas de fontes confiáveis. Entende-se que a busca na internet produziu um resumo gerado por IA contendo os detalhes do caso fictício.

Matthew Lee, advogado nos Doughty Street Chambers que mantém um rastreador no Reino Unido para erros jurídicos relacionados à IA, relatou que este incidente eleva o número total de entradas confirmadas, suspeitas e contestadas para 101. Lee alertou que esses casos podem representar apenas a ponta do iceberg, pois muitas decisões dos tribunais inferiores permanecem não publicadas. Ele também destacou os riscos de privacidade associados ao uso de IA pelo CPS em informações sensíveis e observou que os advogados agora enfrentam trabalho adicional verificando a autenticidade das autoridades legais nos documentos do caso preparados com assistência potencial de IA.

Fontes: The Guardian World.