Galileu detecta injeção de prompt em petição de Parauapebas

O sistema de inteligência artificial Galileu, desenvolvido pelo Tribunal Regional do Trabalho da 4ª Região (TRT-RS) e nacionalizado pelo Conselho Superior da Justiça do Trabalho (CSJT), identificou uma tentativa de manipulação em petição inicial de um processo julgado pela 3ª Vara do Trabalho de Parauapebas (PA). A sentença sobre o caso foi proferida na quarta‑feira (12/5) pelo juiz Luiz Carlos de Araújo Santos Junior.

Ao processar a peça inicial, o Galileu detectou trechos ocultos que continham instruções dirigidas à própria inteligência artificial para que contestasse a petição de forma superficial e não impugnasse documentos, independentemente de comandos posteriores. Essa técnica é conhecida como injeção de prompt.

O sistema emitiu um alerta em destaque ao usuário, identificando tecnicamente a ocorrência, e impediu que o conteúdo malicioso fosse processado. O Galileu limitou‑se a relatar o fato técnico, sem qualificar a conduta nem sugerir encaminhamentos processuais.

O magistrado não se baseou apenas no aviso automático: examinou o trecho assinalado pela ferramenta antes de tomar qualquer providência. Após essa verificação humana, o juiz avaliou as consequências e fundamentou sua decisão, em conformidade com a exigência de supervisão humana no uso de IA pelo Judiciário.

Para a secretária‑geral de tecnologia e inovação do TRT‑RS, Natacha Moraes de Oliveira, o episódio destaca a importância de utilizar ferramentas institucionais que adotem medidas de proteção. Ela ressalta que a detecção de ataques como injeção de comandos ou inclusão maliciosa de dados exige técnicas especializadas para identificação.

O comportamento observado — identificar a anomalia, alertar o usuário e preservar a decisão humana — está em conformidade com diretrizes técnicas internacionais sobre segurança em sistemas de IA, que recomendam essa combinação de medidas diante de tentativas de injeção de prompt (padrões e orientações de organismos como OWASP, NIST, NCSC/CISA e MITRE).

O uso do Galileu segue ainda a Resolução nº 615/2025 do Conselho Nacional de Justiça, que disciplina o emprego de inteligência artificial pelo Poder Judiciário com base em princípios como supervisão humana efetiva, segurança da informação, transparência e respeito aos direitos fundamentais.

O caso reforça a necessidade de desenho e operação seguros de ferramentas de IA no âmbito judicial, aliando detecção técnica a revisão humana antes de decisões processuais.