Un fiscal senior que representaba al Servicio de Acusaciones de la Corona (CPS) citó un precedente legal inexistente en un caso del Tribunal Superior, lo que ha renovado las alarmas sobre la infiltración de alucinaciones de inteligencia artificial en los procedimientos judiciales. Los documentos del tribunal revelan que Ravinder Dhillon, actuando en nombre del CPS, hizo referencia a un caso completamente inventado mientras debatía si acusar o no a un niño de 11 años por el presunto violación de su hermana de siete años.

El incidente ha atraído duras críticas de dos jueces senior del Tribunal Superior, quienes calificaron la explicación del error como insatisfactoria, y de Brian Flanagan, profesor asociado de derecho en la Universidad de Maynooth especializado en IA y derecho, quien lo denominó un fallo grave. The Guardian informa que la cita ficticia se originó a partir de una respuesta generada por IA durante una búsqueda en internet. Este caso se suma a docenas de errores similares que han plagado los procedimientos judiciales este año, aunque marca solo el segundo caso conocido que involucra directamente al propio CPS.

En febrero, el CPS admitió que uno de sus abogados había citado autoridades legales inexistentes en un caso de extradición que involucraba a dos rumanos, probablemente debido al uso de IA. Esos errores fueron descubiertos cuando la defensa contraria no pudo localizar los casos, lo que llevó al CPS a concluir en ese momento que el riesgo de recurrencia era bajo. En el asunto actual, Dhillon argumentó a favor de la acusación presentando una referencia detallada a un caso titulado CPS – R v J [2024] EWCA Crim 3529, el cual no existe.

La decisión de proceder con la acusación fue tomada por Dhillon en abril y confirmada por el fiscal jefe de la corona. Sin embargo, en octubre, Dhillon admitió que la cita era un error, declarando que había pretendido referirse a una decisión real tomada hace 15 años. Flanagan enfatizó que utilizar una fuente legal inexistente para argumentar a favor de acusar a un niño socava la confianza en la ley, señalando que, si bien los profesionales no deben fabricar autoridades, las apuestas son más altas cuando el estado está involucrado debido a su inmenso poder.

El Tribunal Superior dictaminó que la referencia al caso ficticio no afectó el resultado del desafío del niño contra la decisión de acusación. El juicio está programado para tener lugar en los tribunales de menores a finales de esta semana. Este incidente sigue a una advertencia emitida en junio de 2025 por la Dama Victoria Sharp, entonces presidenta de la División del Banco del Rey, quien instó a los organismos legales a frenar urgentemente el mal uso de la IA, advirtiendo que los abogados podrían enfrentar sanciones que van desde la admonición pública hasta procedimientos por desacato al tribunal.

En respuesta, el CPS declaró que mantiene una estricta política de IA que limita su uso para tomar decisiones legales y requiere verificaciones humanas para garantizar la precisión. Un portavoz confirmó que ocurrió un error durante la investigación legal basada en internet, el cual fue corregido inmediatamente tras una revisión interna. La agencia señaló que las lecciones aprendidas se compartieron para asegurar que la jurisprudencia se cite únicamente de fuentes confiables. Se entiende que la búsqueda en internet produjo un resumen generado por IA que contenía los detalles del caso ficticio.

Matthew Lee, abogado de Doughty Street Chambers que mantiene un rastreador del Reino Unido para errores legales relacionados con la IA, informó que este incidente eleva el número total de entradas confirmadas, sospechosas y disputadas a 101. Lee advirtió que estos casos pueden representar solo la punta del iceberg, ya que muchas decisiones de tribunales inferiores permanecen sin publicar. También destacó los riesgos de privacidad asociados con el uso de IA por parte del CPS sobre información sensible y señaló que los abogados ahora enfrentan trabajo adicional para verificar la autenticidad de las autoridades legales en los documentos del caso preparados con posible asistencia de IA.

Fuentes: The Guardian World.