Tentativa Invisível de Manipular IA Preocupa Tribunais Brasileiros
-
EmPoucosMinutos - 09 Jun, 2026
O sistema judiciário brasileiro está enfrentando um desafio inédito com a descoberta de tentativas de manipulação de decisões por meio de comandos ocultos inseridos em petições eletrônicas, uma técnica conhecida no meio tecnológico como injeção de prompt. Casos recentes identificados em estados como São Paulo, Pará, Minas Gerais e Paraíba revelaram que advogados têm inserido trechos de texto formatados em fonte branca sobre fundo branco em suas peças processuais. Embora invisíveis aos olhos humanos de juízes e assessores do tribunal, essas instruções ocultas são capturadas e processadas por sistemas de inteligência artificial adotados para realizar a triagem inicial e o resumo de processos judiciais. O objetivo dessas instruções maliciosas é instruir o algoritmo de inteligência artificial a redigir decisões parciais que beneficiem o autor da ação jurídica, tais como a concessão automática de justiça gratuita ou a aprovação de tutelas de urgência sem a devida análise de mérito. O crescimento desses episódios acendeu o alerta em cortes estaduais e federais sobre a vulnerabilidade tecnológica dos novos sistemas de automação de fluxo de trabalho implementados para agilizar o andamento processual no território nacional.
As instâncias superiores do Judiciário, sob coordenação do Conselho Nacional de Justiça, têm acompanhado os casos com preocupação e reforçado a necessidade de auditoria rigorosa de todas as ferramentas tecnológicas de automação utilizadas no suporte aos magistrados. De acordo com as normas vigentes estabelecidas pelo órgão regulador, o uso de inteligência artificial deve ser obrigatoriamente supervisionado por seres humanos, sendo vedada a homologação de qualquer decisão judicial produzida de forma integralmente automatizada. Em resposta às tentativas de fraude constatadas, magistrados de diferentes jurisdições estaduais aplicaram multas pecuniárias expressivas a advogados que inseriram tais instruções ocultas em suas peças de defesa, classificando a conduta como litigância de má-fé e tentativa de envenenamento de dados do sistema judiciário. Os defensores dos profissionais envolvidos alegaram em suas manifestações públicas que os trechos ocultos representavam resíduos de testes técnicos ou formas de resguardar o cliente de eventuais interpretações errôneas das próprias inteligências artificiais de triagem, mas os tribunais mantiveram as sanções administrativas e abriram investigações para apurar fraudes eletrônicas em larga escala no andamento dos processos.
Para além do simples ocultamento de texto com formatação branca, especialistas em direito digital alertam que os riscos de manipulação incluem métodos ainda mais complexos, tais como o uso de links maliciosos em anexos eletrônicos ou a elaboração estatística de frases otimizadas para induzir o modelo de linguagem a um viés específico. A rápida adoção tecnológica nos tribunais brasileiros, motivada pelo acúmulo histórico de aproximadamente oitenta milhões de processos em andamento, expôs a necessidade urgente de sanitização estruturada dos documentos inseridos no sistema antes que passem pela análise de redes neurais. Os especialistas apontam também o risco do chamado viés de automação, que se caracteriza pela tendência de magistrados e servidores de aceitarem de forma acrítica as conclusões fornecidas por softwares de triagem processual em virtude do ganho de produtividade prometido pelas ferramentas. Diante dessa realidade, tribunais de justiça estaduais estão publicando notas técnicas com instruções defensivas de segurança digital e projetando novos provimentos regulatórios para garantir que a tecnologia continue operando de forma ética e segura como apoio instrumental às decisões humanas.
