Ein leitender Staatsanwalt, der die Crown Prosecution Service (CPS) vertrat, zitierte in einem Fall vor dem Obersten Gericht einen nicht existierenden Rechtspräzedenzfall, was neue Alarmglocken bezüglich des Eindringens von KI-Halluzinationen in gerichtliche Verfahren läuten ließ. Gerichtsunterlagen zeigen, dass Ravinder Dhillon, die für die CPS auftrat, einen vollständig erfundenen Fall zitierte, während sie darüber argumentierte, ob ein 11-jähriger Junge wegen des mutmaßlichen Vergewaltigungsdelikts an seiner siebenjährigen Schwester angeklagt werden sollte.
Der Vorfall hat scharfe Kritik von zwei leitenden Richtern des Obersten Gerichts auf sich gezogen, die die Erklärung für den Fehler als unbefriedigend bezeichneten, sowie von Brian Flanagan, einem außerordentlichen Professor für Recht an der Maynooth University mit Spezialisierung auf KI und Recht, der dies als schwerwiegendes Versagen charakterisierte. Der Guardian berichtet, dass die fiktive Zitation aus einer KI-Antwort stammte, die während einer Internetsuche generiert wurde. Dieser Fall fügt sich in Dutzende ähnlicher Fehler ein, die dieses Jahr gerichtliche Verfahren geplagt haben, obwohl es sich nur um den zweiten bekannten Vorfall handelt, der die CPS selbst betrifft.
Im Februar gab die CPS zu, dass einer ihrer Anwälte in einem Auslieferungsverfahren mit zwei Rumänen nicht existierende Rechtsquellen zitiert hatte, was wahrscheinlich auf die Nutzung von KI zurückzuführen war. Diese Fehler wurden entdeckt, als die gegnerische Anwaltschaft die Fälle nicht finden konnte, woraufhin die CPS damals zu dem Schluss kam, dass das Risiko eines Wiederauftretens gering sei. Im vorliegenden Fall argumentierte Dhillon für die Anklage, indem sie einen detaillierten Verweis auf einen Fall mit dem Titel CPS – R v J [2024] EWCA Crim 3529 einreichte, der nicht existiert.
Die Entscheidung, die Anklage zu erheben, wurde von Dhillon im April getroffen und vom leitenden Staatsanwalt bestätigt. Im Oktober jedoch gab Dhillon zu, dass die Zitation ein Fehler war, und erklärte, sie habe sich auf eine echte Entscheidung beziehen wollen, die vor 15 Jahren gefällt worden sei. Flanagan betonte, dass die Verwendung einer nicht existierenden Rechtsquelle, um die Anklage gegen ein Kind zu begründen, das Vertrauen in das Recht untergräbt, und wies darauf hin, dass zwar Fachleute keine Behörden erfinden sollten, die stakes jedoch höher sind, wenn der Staat aufgrund seiner enormen Macht beteiligt ist.
Das Oberste Gericht entschied, dass der Verweis auf den fiktiven Fall das Ergebnis der Klage des Jungen gegen die Anklageentscheidung nicht beeinflusst hat. Der Prozess soll später diese Woche in Jugendgerichten stattfinden. Dieser Vorfall folgt einer Warnung von Dame Victoria Sharp, damalige Präsidentin der King's Bench Division, aus Juni 2025, die Rechtsinstitutionen drängte, den Missbrauch von KI dringend einzudämmen und warnte, dass Anwälte Sanktionen von öffentlicher Rüge bis hin zu Verfahren wegen Verachtung des Gerichts drohen könnten.
Als Reaktion darauf erklärte die CPS, sie halte eine strenge KI-Richtlinie aufrecht, die deren Einsatz für rechtliche Entscheidungen einschränke und menschliche Kontrollen zur Sicherstellung der Genauigkeit verlange. Ein Sprecher bestätigte, dass ein Fehler während einer internetbasierten juristischen Recherche aufgetreten sei, der nach einer internen Überprüfung sofort behoben wurde. Die Agentur stellte fest, dass Erkenntnisse geteilt wurden, um sicherzustellen, dass Rechtsprechung nur aus vertrauenswürdigen Quellen zitiert wird. Es ist bekannt, dass die Internetsuche eine KI-Zusammenfassung mit den Details des fiktiven Falls erzeugt hat.
Matthew Lee, ein Barrister bei Doughty Street Chambers, der einen britischen Tracker für KI-bezogene Rechtsfehler führt, berichtete, dass dieser Vorfall die Gesamtzahl der bestätigten, vermuteten und umstrittenen Einträge auf 101 bringt. Lee warnte, dass diese Fälle möglicherweise nur die Spitze des Eisbergs darstellen, da viele Entscheidungen unterer Gerichte unveröffentlicht bleiben. Er hob auch Datenschutzrisiken hervor, die damit verbunden sind, dass die CPS KI für sensible Informationen verwendet, und stellte fest, dass Barristers nun zusätzliche Arbeit leisten müssen, um die Authentizität von Rechtsquellen in Fallakten zu überprüfen, die möglicherweise mit KI-Hilfe erstellt wurden.
Quellen: The Guardian World.