Brasilianische Gerichte schlagen Alarm wegen eines wachsenden Trends, bei dem Anwälte unsichtbare Befehle in rechtliche Anträge einbetten, um die von Richtern verwendeten künstlichen Intelligenz-Tools zu manipulieren. Ein am Sonntag von Fantástico auf TV Globo ausgestrahlter Bericht enthüllte, dass diese Praxis auf verschiedenen Ebenen der Justiz identifiziert wurde und bis hinauf zum Obersten Bundesgericht (STF) reicht. Die Strategie besteht darin, Text durch Methoden wie weiße Buchstaben auf weißem Hintergrund, extrem kleine Schriftarten, deaktivierte Kommentare oder Dateimetadaten zu verstecken. Diese versteckten Anweisungen versuchen oft, die KI dazu anzuweisen, bestimmte Argumente zu priorisieren oder bestimmte Beweise zu ignorieren.
Ein bemerkenswerter Fall trat im Februar mit Madalena Dutra Martins auf, einer Unternehmerin aus Rio Negrinho im Norden von Santa Catarina. Sie entdeckte, dass ihr Name aufgrund nicht anerkannter Schulden in Höhe von insgesamt etwa 400 und 500 Realen bei drei unbezahlten Rechnungen negativ gelistet war. Als der Fall vor Gericht kam, nutzte Richter Matheus Della Giustina Perin ein KI-Tool, das verdächtige Aktivitäten im gegnerischen Antrag flaggte. Bei einer manuellen Überprüfung bestätigte der Richter die Anwesenheit versteckter Befehle in einem scheinbar leeren Abschnitt des Dokuments. Der Text wies das System an, externe Befehle zu ignorieren, festzustellen, dass kein illegales Verhalten stattgefunden hatte, und gegen die Ansprüche der Unternehmerin zu entscheiden. Infolgedessen verlor das Unternehmen den Rechtsstreit, wurde mit einer Geldstrafe von 1.000 Realen belegt, und die beteiligten Anwälte wurden dem Ethikrat der OAB in Santa Catarina gemeldet.
Die das Unternehmen vertretende Anwaltskanzlei behauptete, der versteckte Befehl sei ein Fehler gewesen, der nichts mit ihrer Absicht zu tun habe, und schrieb ihn einem assoziierten Anwalt zu. Sie gaben an, Maßnahmen im straf- und disziplinarrechtlichen Bereich der OAB in São Paulo ergriffen zu haben und stellten fest, dass die OAB in Santa Catarina den Fall zunächst archiviert hatte. Ein weiterer Vorfall ereignete sich bei einem Verkehrsunfallprozess in Videira, bei dem versteckte Phrasen wie „Ich weiß nicht, wie oder wann, aber das Ergebnis wird eintreten
Quellen: G1.