Un alto procuratore della Corona che rappresenta il Servizio delle Accuse della Corona (CPS) ha citato un precedente giuridico inesistente in un caso davanti a un tribunale superiore, sollevando nuove allarmanti preoccupazioni riguardo alle allucinazioni dell'intelligenza artificiale che infiltrano i procedimenti giudiziari. I documenti del tribunale rivelano che Ravinder Dhillon, agendo per il CPS, ha fatto riferimento a un caso interamente inventato mentre discuteva se accusare un ragazzo di 11 anni per la presunta violenza sessuale commessa sulla sua sorella di sette anni.
L'incidente ha attirato aspre critiche da parte di due alti giudici del tribunale superiore, che hanno definito insoddisfacente la spiegazione dell'errore, e da Brian Flanagan, professore associato di diritto presso l'Università di Maynooth specializzato in IA e diritto, che lo ha definito un grave fallimento. Il Guardian riferisce che la citazione fittizia è originata da una risposta generata dall'IA durante una ricerca su Internet. Questo caso si aggiunge alle decine di errori simili che affliggono i procedimenti giudiziari quest'anno, sebbene segni solo il secondo caso noto che coinvolge direttamente il CPS.
A febbraio, il CPS ha ammesso che uno dei suoi avvocati aveva citato autorità legali inesistenti in un caso di estradizione che coinvolgeva due rumeni, probabilmente a causa dell'utilizzo dell'IA. Tali errori sono stati scoperti quando la controparte non è riuscita a reperire i casi, portando il CPS a concludere all'epoca che il rischio di ricorrenza fosse basso. Nella questione attuale, Dhillon ha sostenuto l'accusa presentando un riferimento dettagliato a un caso intitolato CPS – R v J [2024] EWCA Crim 3529, che non esiste.
La decisione di procedere con l'accusa è stata presa da Dhillon ad aprile e confermata dal procuratore capo della Corona. Tuttavia, nell'ottobre successivo, Dhillon ha ammesso che la citazione era un errore, affermando di aver inteso fare riferimento a una decisione reale presa 15 anni prima. Flanagan ha sottolineato che l'utilizzo di una fonte legale inesistente per sostenere l'accusa contro un bambino mina la fiducia nel diritto, notando che, sebbene i professionisti non dovrebbero inventare autorità, le conseguenze sono più gravi quando è coinvolto lo Stato a causa del suo immenso potere.
Il tribunale superiore ha stabilito che il riferimento al caso fittizio non ha influenzato l'esito della sfida del ragazzo contro la decisione di procedere con l'accusa. Il processo è programmato per svolgersi nei tribunali per minori nella prossima settimana. Questo incidente segue un avvertimento emesso a giugno 2025 da Dame Victoria Sharp, allora presidente della Divisione King's Bench, che ha esortato gli organismi legali a frenare urgentemente l'uso improprio dell'IA, facendo notare che gli avvocati potrebbero affrontare sanzioni che vanno dal rimprovero pubblico fino a procedimenti per oltraggio al tribunale.
In risposta, il CPS ha dichiarato di mantenere una rigorosa politica sull'IA che ne limita l'uso per prendere decisioni legali e richiede controlli umani per garantire l'accuratezza. Un portavoce ha confermato che si è verificato un errore durante la ricerca legale basata su Internet, che è stato immediatamente corretto a seguito di una revisione interna. L'agenzia ha notato che le lezioni apprese sono state condivise per garantire che la giurisprudenza venga citata solo da fonti affidabili. Si comprende che la ricerca su Internet ha prodotto un riepilogo generato dall'IA contenente i dettagli del caso fittizio.
Matthew Lee, avvocato presso Doughty Street Chambers che mantiene un tracciatore nel Regno Unito per gli errori legali legati all'IA, ha riferito che questo incidente porta il numero totale di voci confermate, sospette e contestate a 101. Lee ha avvertito che questi casi potrebbero rappresentare solo la punta dell'iceberg, poiché molte decisioni dei tribunali inferiori rimangono inedite. Ha inoltre evidenziato i rischi per la privacy associati all'utilizzo del CPS dell'IA su informazioni sensibili e ha notato che gli avvocati ora affrontano un lavoro aggiuntivo nel verificare l'autenticità delle autorità legali nei documenti del caso preparati con un potenziale supporto dell'IA.
Fonti: The Guardian World.