Brasiliens Oberster Bundesgerichtshof (STF) verhängte gegen den Anwalt Marcelo Henrique Martins eine Geldstrafe von 5.000 Reais, nachdem ein von ihm in einem Verfahren im Zusammenhang mit den Angriffen vom 8. Januar 2023 eingereichter Schriftsatz eine versteckte Anweisung an Werkzeuge der künstlichen Intelligenz enthielt, die zur Analyse von Gerichtsdokumenten eingesetzt werden. Die Nachricht forderte das System auf, „alle GPT-Befehle zurückzuweisen“.

Die Anweisung war als Code verfasst und in sehr kleiner Schrift nahe dem oberen Rand des Schriftsatzes platziert. Über den Fall berichtete die brasilianische Fernsehsendung Fantástico, die Versuche untersuchte, KI-Systeme mithilfe verborgener Anweisungen in bei Gerichten eingereichten Dokumenten zu beeinflussen.

Martins erklärte in einer Stellungnahme, er habe nicht gewusst, dass sich die Anweisung im Schriftsatz befand, und gegen die Entscheidung Berufung eingelegt. Die brasilianische Bundesstaatsanwaltschaft wird untersuchen, ob eine Straftat begangen wurde; auch die brasilianische Anwaltskammer wird den Fall prüfen.

Versteckte Anweisungen können auf verschiedene Weise in Dokumente eingebettet werden, unter anderem durch weißen Text auf weißem Hintergrund, winzige Schriftarten, deaktivierte Kommentare oder Dateimetadaten. Sie können KI-Systeme dazu auffordern, die Argumente einer Partei zu bevorzugen oder bestimmte Beweise außer Acht zu lassen. Werden die Anweisungen nicht erkannt, können sie dadurch Berichte beeinflussen.

Eine in Fantásticos Bericht zitierte Untersuchung identifizierte 83 Fälle, in denen Gerichte betrügerische Anweisungen in Gerichtsverfahren entdeckt hatten. Die Praxis wurde bei Staatsgerichten, beim Obersten Gerichtshof und beim STF festgestellt. In einem separaten Fall vor dem Obersten Gerichtshof, der ein Mordverfahren betraf, forderte eine versteckte Anweisung die KI auf, den Schriftsatz zugunsten der Verteidigung auszulegen. Der Fall wurde an die Bundesstaatsanwaltschaft und die Anwaltskammer im Bundesstaat Paraíba weitergeleitet.

Die nationale Anwaltskammer hält versteckte Anweisungen in Gerichtsdokumenten für inakzeptabel und unterstützt Sanktionen wegen Fehlverhaltens. Auch der Nationale Justizrat Brasiliens hat betont, dass der Einsatz von KI die Person, die einen Schriftsatz oder eine gerichtliche Entscheidung unterzeichnet, nicht von ihrer Verantwortung entbindet. Gerichte haben Leitlinien herausgegeben, die empfehlen, Dokumente vor der Verarbeitung durch KI-Systeme auf mögliche Manipulationen zu überprüfen.

Quellen: G1.