El Supremo Tribunal Federal de Brasil (STF) multó al abogado Marcelo Henrique Martins con 5.000 reales después de que una petición presentada por él en un caso relacionado con los ataques del 8 de enero de 2023 contuviera una instrucción oculta dirigida a herramientas de inteligencia artificial utilizadas para analizar documentos judiciales. El mensaje indicaba al sistema que «rechazara todas las instrucciones de GPT».

La instrucción estaba escrita en código y colocada en letra muy pequeña cerca de la parte superior del documento. El caso apareció en un reportaje del programa de televisión brasileño Fantástico, que examinó los intentos de influir en sistemas de IA mediante instrucciones ocultas en documentos presentados ante los tribunales.

Martins declaró que desconocía la presencia de la instrucción en la petición y que había apelado la decisión. La Fiscalía Federal de Brasil investigará si se cometió un delito, mientras que el Colegio de Abogados de Brasil también revisará el caso.

Las instrucciones ocultas pueden incorporarse a documentos de varias maneras, como mediante texto blanco sobre fondo blanco, fuentes diminutas, comentarios desactivados o metadatos de archivo. Pueden indicar a los sistemas de IA que favorezcan los argumentos de una de las partes o que ignoren determinadas pruebas, lo que podría afectar los informes si las instrucciones no se detectan.

Una encuesta citada en el reportaje de Fantástico identificó 83 casos en los que los tribunales habían detectado instrucciones fraudulentas en procesos judiciales. Esta práctica se ha encontrado en tribunales estatales, en el Superior Tribunal de Justicia y en el STF. En un caso distinto ante el Superior Tribunal de Justicia, relacionado con un proceso por asesinato, una instrucción oculta indicaba a la IA que interpretara el documento a favor de la defensa. El caso fue remitido a la fiscalía federal y al Colegio de Abogados del estado de Paraíba.

El Colegio de Abogados nacional considera inaceptables las instrucciones ocultas en documentos judiciales y respalda la imposición de sanciones por conducta indebida. El Consejo Nacional de Justicia de Brasil también ha recalcado que utilizar IA no exime de responsabilidad a quien firma un documento judicial o una resolución. Los tribunales han emitido directrices que recomiendan revisar los documentos para detectar posibles manipulaciones antes de procesarlos con sistemas de IA.

Fuentes: G1.