Un procureur senior représentant le Service des poursuites criminelles (CPS) a cité un précédent juridique inexistant dans une affaire devant la Haute Cour, ravivant les alarmes concernant l'infiltration d'hallucinations de l'intelligence artificielle dans les procédures judiciaires. Les documents du tribunal révèlent que Ravinder Dhillon, agissant pour le CPS, a fait référence à une affaire entièrement inventée alors qu'elle plaidait sur la question de poursuivre un garçon de 11 ans pour le viol présumé de sa sœur de sept ans.

Cet incident a attiré de vives critiques de la part de deux juges seniors de la Haute Cour, qui ont qualifié l'explication de cette erreur d'insatisfaisante, ainsi que de Brian Flanagan, professeur associé de droit à l'Université de Maynooth spécialisé dans l'IA et le droit, qui l'a qualifiée d'échec grave. Le Guardian rapporte que la citation fictive provenait d'une réponse générée par une IA lors d'une recherche sur Internet. Cette affaire s'ajoute aux dizaines d'erreurs similaires qui ont affecté les procédures judiciaires cette année, bien qu'elle ne marque que le deuxième cas connu impliquant le CPS lui-même.

En février, le CPS a admis que l'un de ses avocats avait cité des autorités juridiques inexistantes dans une affaire d'extradition impliquant deux Roumains, probablement en raison de l'utilisation de l'IA. Ces erreurs ont été découvertes lorsque la partie adverse n'a pas pu localiser les affaires, conduisant le CPS à conclure à l'époque que le risque de récurrence était faible. Dans l'affaire actuelle, Dhillon a plaidé pour la poursuite en soumettant une référence détaillée à une affaire intitulée CPS – R v J [2024] EWCA Crim 3529, qui n'existe pas.

La décision de procéder aux poursuites a été prise par Dhillon en avril et confirmée par le procureur général. Cependant, en octobre, Dhillon a admis que la citation était une erreur, déclarant qu'elle avait l'intention de se référer à une décision réelle rendue il y a 15 ans. Flanagan a souligné que l'utilisation d'une source juridique inexistante pour plaider en faveur de la poursuite d'un enfant mineur sape la confiance dans la loi, notant que si les professionnels ne devraient pas fabriquer d'autorités juridiques, les enjeux sont plus élevés lorsque l'État est impliqué en raison de son immense pouvoir.

La Haute Cour a statué que la référence à l'affaire fictive n'avait pas affecté le résultat du recours du garçon contre la décision de poursuite. Le procès est prévu pour se tenir devant les tribunaux pour mineurs plus tard cette semaine. Cet incident fait suite à un avertissement émis en juin 2025 par Dame Victoria Sharp, alors présidente de la division du King's Bench, qui a exhorté les organismes juridiques à freiner d'urgence le mauvais usage de l'IA, mettant en garde contre le fait que les avocats pourraient faire face à des sanctions allant de l'avertissement public à des procédures pour outrage au tribunal.

En réponse, le CPS a déclaré qu'il maintient une politique stricte concernant l'IA limitant son utilisation pour la prise de décisions juridiques et exigeant des vérifications humaines pour garantir l'exactitude. Un porte-parole a confirmé qu'une erreur s'était produite lors d'une recherche juridique basée sur Internet, qui a été immédiatement corrigée suite à un examen interne. L'agence a noté que les enseignements tirés ont été partagés pour s'assurer que la jurisprudence est citée uniquement à partir de sources fiables. Il est entendu que la recherche sur Internet a produit un résumé généré par une IA contenant les détails de l'affaire fictive.

Matthew Lee, avocat au Doughty Street Chambers qui tient un registre britannique des erreurs juridiques liées à l'IA, a rapporté que cet incident porte le nombre total d'entrées confirmées, suspectées et contestées à 101. Lee a averti que ces affaires ne représentent peut-être que la pointe de l'iceberg, car de nombreuses décisions des tribunaux inférieurs restent non publiées. Il a également souligné les risques pour la vie privée associés à l'utilisation par le CPS de l'IA sur des informations sensibles et a noté que les avocats font désormais face à un travail supplémentaire pour vérifier l'authenticité des autorités juridiques dans les dossiers d'affaires préparés avec une assistance potentielle de l'IA.

Sources: The Guardian World.