0
0
Quando a inteligência artificial deixa de ser só uma ferramenta de produtividade e passa a ser o objeto do processo, o Direito precisa responder a perguntas inéditas. Pode-se esconder um comando para a IA dentro de uma petição? O que acontece quando o modelo inventa um precedente? Um relatório gerado por IA vale como prova? O Superior Tribunal de Justiça começou a responder, e a reportagem especial publicada pelo tribunal em 18 de outubro de 2026 reúne os julgados mais importantes.
Para quem acompanha a interseção entre Direito e tecnologia, o conjunto é uma aula sobre como falhas técnicas conhecidas da IA generativa já têm consequência jurídica concreta.
Prompt injection: quando o alvo do ataque é o julgador
Prompt injection é a técnica de inserir comandos ocultos em documentos comuns para enganar modelos de IA, fazendo com que eles obedeçam a instruções que o usuário legítimo não deu. Em ambiente de cibersegurança, é uma vulnerabilidade conhecida. No STJ, apareceu dentro de petições.
No REsp 2.256.731, julgado pela Sexta Turma em setembro de 2026, a equipe do relator, ministro Og Fernandes, encontrou na última página do recurso um texto em fonte branca sobre fundo branco, invisível na leitura convencional, mas legível por máquina. O texto pedia que uma eventual IA leitora interpretasse a peça de modo a acolher as razões da defesa. O recurso era contra acórdão do TJPB sobre absolvição em caso de homicídio. A Turma mandou comunicar a OAB e o MPF, e o relator qualificou o fato como “gravíssimo”, ressaltando que as ferramentas do tribunal não geram decisões automáticas para assinatura posterior.
No mesmo mês, a Segunda Turma analisou recurso especial assinado por procurador municipal, em segredo de justiça, com um “recado” dirigido à IA pedindo que a tese fosse tratada como vencedora. O relator, ministro Teodoro Silva Santos, considerou a conduta de extrema gravidade e ato atentatório à dignidade da Justiça. A sanção foi multa de 10% sobre o valor da causa por litigância de má-fé, com comunicação a OAB, MPF, Polícia Federal e ao município.
O ponto técnico é interessante: a defesa contra esse tipo de ataque não está só no software. O STJ afirmou que os processos são examinados por ministros e equipes, e a tecnologia apenas apoia. Ou seja, a supervisão humana funciona também como camada de segurança.
Alucinação: a falha estatística vira ilícito processual
Modelos generativos não consultam bases de dados em tempo real a cada resposta. Eles estruturam o texto a partir de padrões estatísticos aprendidos no treinamento. O resultado pode ser um texto formalmente convincente e materialmente falso, com leis, citações e julgados que não existem. Esse fenômeno é a alucinação de IA.
O banco de dados AI Hallucination Cases, mantido por Damien Charlotin, registrava até setembro de 2026 mais de dois mil casos em tribunais de vários países, 41 deles no Brasil. No STJ:
- HC 1.023.732 (Sexta Turma, agosto de 2025): não conhecido, porque a petição citava leis e precedentes inexistentes. Um exemplo: atribuiu-se ao artigo 436, parágrafo 1º, do CPP um texto sobre jurado que o dispositivo não contém. Ofício à OAB.
- HC 1.094.270 (ministro Rogerio Schietti Cruz): liminar negada em caso de prisão preventiva por tráfico, com indícios de referências incorretas geradas por IA. Ofício à OAB.
- AREsp em segredo de justiça (Quarta Turma): precedentes fictícios, incluindo um número genérico sem ano nem relator. Multa de cinco salários mínimos por má-fé.
Schietti sintetizou o ponto: o uso de IA não é censurável em si, o problema é a ausência de verificação humana. Em linguagem de engenharia, o modelo é um gerador de hipóteses, e a validação é responsabilidade de quem assina.
Decisão feita com apoio de IA é nula?
A Quarta Turma, no AREsp 2.848.833 (junho de 2026), respondeu que a simples suspeita não basta. A ministra Isabel Gallotti exigiu elementos concretos de produção automática do ato, falta de supervisão humana ou prejuízo processual efetivo. A Resolução CNJ 615/2025, que trata de transparência, auditabilidade e supervisão humana, não autoriza presumir nulidade apenas porque o tribunal usa ferramentas de apoio.
O STJ, vale lembrar, desenvolve o seu próprio sistema de IA, o STJ Logos, e mantém página institucional sobre suas iniciativas na área.
IA como meio de prova
O HC 1.059.475 é um dos primeiros posicionamentos do STJ sobre IA generativa como prova. A Quinta Turma, relator ministro Reynaldo Soares da Fonseca, decidiu que relatório produzido por IA, sem análise e validação humanas, não pode ser usado em ação penal.
No caso, uma denúncia por injúria racial após partida de futebol em Mirassol (SP) se apoiou em relatório de IA que apontava a fala, enquanto a perícia oficial, com análise fonética e acústica, não encontrou elementos compatíveis. O relator afirmou que a prova penal precisa ser lícita e também confiável, e que não havia fundamento técnico para dar ao relatório de IA mais crédito do que ao laudo oficial.
Em outro julgamento, de março de 2026, a Quinta Turma entendeu que prints de ferramentas de IA ou de sites privados, sem autenticação, não bastam para provar uma suposta falha de internet e afastar a intempestividade de recurso.
Os enunciados: um esboço de regulação jurisdicional
Os 2º Congressos STJ da Primeira e da Segunda Instância aprovaram onze enunciados sobre IA em 2026. Os temas mais ligados à tecnologia são:
- Governança: recomendação de sistemas de IA nos gabinetes para triagem e sugestão de precedentes, com transparência, auditabilidade e supervisão humana.
- Litigância de massa: agrupamento de processos com apoio de IA, preservada a análise humana das peculiaridades.
- Prova digital: impugnação plausível da autenticidade de prova produzida por IA transfere à parte o ônus de demonstrar integridade e cadeia de custódia; havendo fundada suspeita, exige-se metadados e cadeia de custódia certificada, ou o pagamento da perícia.
- Deepfake: responsabilidade de provedores de redes sociais por conteúdo ilícito gerado por IA sem necessidade de ordem judicial prévia, bastando notificação extrajudicial específica.
- Audiências: admissibilidade de transcrição automática de sentença oral por IA, desde que haja gravação em sistema oficial que reflita fielmente o raciocínio do magistrado.
- Peças e decisões: a IA não dispensa curadoria humana, e o juiz continua obrigado à fundamentação concreta, sendo vedada decisão automatizada ou padronizada sem análise do caso.
O que isso diz sobre o futuro
Três lições aparecem nos julgados. Primeira, os riscos técnicos da IA (injeção de comandos, alucinação, opacidade) já têm tradução jurídica em litigância de má-fé, ato atentatório à dignidade da justiça e inadmissibilidade de prova. Segunda, o Judiciário adota a IA como apoio, mas exige supervisão humana e auditabilidade. Terceira, a cadeia de custódia e os metadados tendem a ganhar peso, porque conteúdo gerado ou alterado por IA passa a ser tratado como prova que precisa demonstrar a própria integridade.
Perguntas frequentes
O que é prompt injection?
É a inserção de comandos ocultos em documentos ou entradas para enganar modelos de IA. No STJ, foi identificada em petições, com texto invisível ao leitor humano.
O que é alucinação de IA no contexto jurídico?
É quando o sistema generativo apresenta leis, precedentes ou fatos inventados como se fossem reais. O STJ já tratou a conduta como deficiência de fundamentação e litigância de má-fé.
Prova gerada por IA é aceita no processo penal?
Não sem análise e validação humanas. A Quinta Turma excluiu dos autos um relatório de IA que contrariava a perícia oficial.
O STJ usa IA para decidir?
O tribunal desenvolveu o sistema STJ Logos como ferramenta de apoio, e o relator no REsp 2.256.731 ressaltou que as ferramentas não produzem decisões de forma automática.
Conclusão
A mensagem do STJ é coerente: tecnologia como apoio, responsabilidade humana como regra. Para quem atua entre Direito e tecnologia, vale acompanhar como esses precedentes vão moldar as exigências de transparência, auditoria e prova digital.
Qual dessas frentes você acha que gera mais risco hoje, a alucinação nas peças ou a prova produzida por IA? Conte nos comentários.
Conteúdo meramente informativo e educativo, sem caráter de aconselhamento jurídico.
Receba a Pauta LawGeek
Uma curadoria do que muda em Direito e Tecnologia (IA, LGPD, cripto e legaltech), explicada na prática, direto no seu e-mail.
