La Cour suprême fédérale du Brésil (STF) a infligé une amende de 5 000 reais à l’avocat Marcelo Henrique Martins après qu’une requête présentée par celui-ci dans une affaire liée aux attaques du 8 janvier 2023 a révélé la présence d’une instruction cachée destinée aux outils d’intelligence artificielle utilisés pour analyser des documents judiciaires. Le message demandait au système de « rejeter toutes les commandes GPT ».
L’instruction était rédigée en code et placée en très petits caractères près du haut du document. L’affaire a été présentée dans un reportage de l’émission de télévision brésilienne Fantástico, qui a examiné les tentatives visant à influencer les systèmes d’IA au moyen de directives dissimulées dans des documents soumis aux tribunaux.
Dans une déclaration, Martins a indiqué qu’il ignorait la présence de l’instruction dans la requête et qu’il avait fait appel de la décision. Le Ministère public fédéral du Brésil enquêtera pour déterminer si une infraction a été commise, tandis que l’Ordre des avocats du Brésil examinera également l’affaire.
Les instructions cachées peuvent être intégrées à des documents de plusieurs façons, notamment sous forme de texte blanc sur fond blanc, de caractères minuscules, de commentaires désactivés ou de métadonnées de fichier. Elles peuvent demander aux systèmes d’IA de privilégier les arguments d’une partie ou d’ignorer certains éléments de preuve, et ainsi influer potentiellement sur les rapports si les instructions ne sont pas détectées.
Une enquête citée dans le reportage de Fantástico a recensé 83 affaires dans lesquelles des tribunaux avaient détecté des instructions frauduleuses au cours de procédures judiciaires. Cette pratique a été constatée dans des tribunaux des États, au Tribunal supérieur de justice et à la STF. Dans une autre affaire, portée devant le Tribunal supérieur de justice et liée à une procédure pour meurtre, une instruction dissimulée demandait à l’IA d’interpréter le document en faveur de la défense. L’affaire a été transmise au ministère public fédéral et à l’Ordre des avocats de l’État de Paraíba.
L’Ordre national des avocats considère que les instructions cachées dans des documents judiciaires sont inacceptables et soutient l’imposition de sanctions en cas de faute. Le Conseil national de justice du Brésil a également souligné que l’utilisation de l’IA ne dégage pas de sa responsabilité la personne qui signe un document judiciaire ou une décision de justice. Les tribunaux ont publié des directives recommandant de vérifier les documents afin de détecter toute manipulation éventuelle avant leur traitement par des systèmes d’IA.
Sources: G1.