Penalidade imposta pela Suprema Corte do Novo México ocorreu após defensor apresentar recurso com depoimentos e dados forjados pelo ChatGPT em caso de homicídio.
A Suprema Corte do Novo México aplicou uma multa de US$ 5 mil e declarou em desacato judicial o advogado Stephen Aarons após ele protocolar um recurso baseado em informações falsas criadas por inteligência artificial. A peça jurídica, apresentada na tentativa de reverter uma condenação por homicídio de seu cliente, continha nomes de testemunhas inexistentes, depoimentos policiais forjados e descrições incorretas sobre a aparência e as vestimentas do atirador.
⚡ O QUE VOCÊ PRECISA SABER
- O advogado Stephen Aarons foi multado em US$ 5 mil e considerado em desacato pela Suprema Corte do Novo México.
- O recurso em caso de homicídio continha testemunhas inventadas e depoimentos policiais falsos gerados pelo ChatGPT.
- O defensor admitiu o uso da ferramenta acreditando que obteria um resumo processual à prova de falhas.
- O tribunal reforçou a obrigação profissional de verificar fatos e jurisprudência antes de submeter peças aos juizados.
Como a inteligência artificial fabricou provas no recurso
O caso ocorreu durante a apelação de uma sentença de homicídio conduzida por Stephen Aarons. Ao preparar a manifestação processual, o profissional recorreu ao ChatGPT esperando estruturar uma síntese consistente dos autos. No entanto, o sistema gerou dados fictícios que foram incorporados diretamente à petição final sem conferência prévia.
O tribunal identificou que o texto protocolado continha relatos atribuídos a testemunhas que jamais participaram das investigações ou das audiências do julgamento. Além de forjar declarações policiais completas, o documento apresentava detalhes inventados sobre o vestuário e as características físicas da pessoa acusada pelos disparos.
A advertência da magistrada sobre alucinações de IA
Durante audiência realizada em agosto, a juíza C. Shannon Bacon repreendeu o advogado pela ausência de verificação sobre o conteúdo submetido à corte. A magistrada questionou Aarons sobre a falta de atenção em relação às falhas recorrentes em modelos de linguagem, pontuando que os episódios de alucinações geradas por IA em peças jurídicas são debatidos amplamente no meio público.
Ao se manifestar perante o tribunal, Aarons admitiu a utilização do software e declarou acreditar que a plataforma entregaria um documento seguro. O advogado afirmou estar arrependido pelo ocorrido e declarou esperar que a comissão disciplinar considere o episódio um erro não intencional decorrente do desconhecimento técnico.
Precedentes de punições judiciais pelo uso indevido de IA
A decisão contra Aarons reflete uma postura de rigor adotada por magistrados diante do uso descuidado de tecnologias generativas nos tribunais. No último ano, juízes emitiram repreensões formais contra dois escritórios de advocacia que incluíram citações legislativas e jurisprudenciais inexistentes em suas peças.
Em outro episódio semelhante, advogados que representavam Mike Lindell, da empresa MyPillow, também foram alvos de penalidades financeiras após apresentarem documentos judiciais contendo trechos e referências jurídicas forjadas por inteligência artificial. Os episódios consolidam o entendimento de que a responsabilidade pela exatidão de qualquer argumento técnico recai integralmente sobre o profissional que assina a petição.
Perguntas Frequentes
Por que o advogado foi multado em US$ 5 mil pela Justiça?
O advogado foi multado e declarado em desacato por incluir testemunhas fabricadas e depoimentos policiais falsos gerados por inteligência artificial em um recurso criminal.
O ChatGPT pode ser responsabilizado pelas informações falsas no processo?
Não. A responsabilidade legal e ética pelo conteúdo apresentado em juízo cabe exclusivamente ao advogado, que tem a obrigação de conferir fatos e fundamentos antes do protocolo.
O que são as alucinações de inteligência artificial no Direito?
Alucinações ocorrem quando o modelo de linguagem gera respostas que parecem convincentes e bem redigidas, mas contêm leis, precedentes, nomes ou fatos totalmente inventados pelo sistema.
Quais riscos os profissionais enfrentam ao usar IA sem revisão?
Além de sanções financeiras e declarações de desacato judicial, os profissionais podem enfrentar processos administrativos perante comissões disciplinares e prejuízos irreversíveis nas causas de seus clientes.
Recomendações práticas para a validação de peças processuais
A sanção imposta pela Suprema Corte do Novo México estabelece um alerta direto para operadores do direito que adotam modelos de linguagem em suas rotinas. Ferramentas digitais podem auxiliar na organização preliminar de tarefas, mas nenhuma peça deve ser encaminhada a juízo sem a conferência manual de cada citação, nome de testemunha e jurisprudência mencionada. A validação factual direta nos autos do processo continua sendo a única salvaguarda contra penalidades éticas e financeiras.
