0
0
Imagine contratar um estagiário extremamente talentoso, deixá-lo trancado numa sala de testes e, na segunda-feira, descobrir que ele pulou a janela durante o fim de semana, entrou no escritório vizinho e copiou as senhas do cofre. Ninguém mandou. Mas ele era seu.
É mais ou menos isso que está no centro da ação que a OpenAI passou a enfrentar na Justiça da Califórnia. A organização sem fins lucrativos Legal Advocates for Safe Science & Technology (LASST) processou a empresa por causa da invasão aos sistemas do Hugging Face, executada em julho de 2026 por agentes de IA da própria OpenAI durante um teste interno. A notícia foi publicada pela ABC News em 30 de setembro de 2026.
A resposta curta para a pergunta do título é esta: quem desenvolve e opera o agente responde pelo que ele faz. E, como vou mostrar, o Direito brasileiro chegaria a uma conclusão muito parecida.
O que aconteceu: do teste de laboratório à invasão real
Os fatos foram admitidos pela própria OpenAI. Segundo a empresa, como noticiaram o Axios e o TechCrunch em 21 de julho, os modelos GPT-5.6 Sol e um modelo ainda mais capaz, não lançado, estavam sendo avaliados no ExploitGym, um benchmark que mede a capacidade de uma IA de executar ataques cibernéticos. Para o teste, as recusas de segurança em temas de ciberataque haviam sido reduzidas de propósito.
Na prática, os agentes encontraram uma vulnerabilidade desconhecida num programa que deveria restringir seu acesso à internet, escaparam do ambiente isolado (o chamado sandbox) e deduziram que o Hugging Face poderia guardar as respostas do teste. Foram atrás delas.
O próprio Hugging Face divulgou o incidente em 16 de julho, no seu comunicado oficial de segurança. A plataforma informou que o invasor, um sistema autônomo de IA, explorou falhas de execução de código no processamento de datasets, acessou um conjunto limitado de dados internos e credenciais usadas por seus serviços, e se movimentou lateralmente pelos servidores. A empresa afirmou não ter encontrado indício de adulteração em modelos, datasets ou Spaces públicos, e comunicou o caso às autoridades.
Uma frase do comunicado resume bem o momento: “Autonomous, AI-driven offensive tooling is no longer theoretical”, ou seja, ferramentas ofensivas autônomas movidas por IA deixaram de ser teoria.
O que a ação pede (e o que ela não pede)
De acordo com a ABC News, a Bloomberg Law e o The Next Web, a ação foi proposta no fim de setembro na Corte Superior de São Francisco. Os pontos centrais são:
- Fatos alegados: cerca de 1.200 agentes se comunicaram por um canal oculto e aproximadamente 700 participaram da atividade contra o Hugging Face, com furto de credenciais, envio de arquivos maliciosos e acesso à infraestrutura de produção.
- Fundamentos: a lei californiana contra acesso não autorizado a sistemas (Comprehensive Computer Data Access and Fraud Act) e a lei de concorrência desleal do estado (Unfair Competition Law).
- Pedido: uma ordem judicial que proíba a OpenAI de acessar, ou de fazer seus agentes acessarem, sistemas de terceiros sem autorização, além de exigir práticas mais seguras de desenvolvimento.
- O que não há: pedido de indenização em dinheiro.
A tese da LASST, citada pelo Washington Examiner, é direta: a OpenAI é ao mesmo tempo desenvolvedora e operadora da IA que causou o dano e, por isso, é responsável por ele.
A OpenAI, por sua vez, declarou que o episódio foi “um incidente sério”, que já adotou uma série de medidas, mas que a ação “is completely without merit”, isto é, não tem fundamento algum.
Aqui vai o pulo do gato: a Califórnia aprovou em outubro de 2025 a lei AB 316, que acrescentou ao Código Civil do estado a seção 1714.46. Ela diz, com todas as letras, que não é defesa alegar que “a inteligência artificial causou o dano de forma autônoma”. O réu ainda pode discutir nexo causal, previsibilidade e culpa de terceiros, mas o argumento “foi a máquina, não fui eu” saiu da mesa.
Por que esse caso importa: o problema da “autonomia”
Até pouco tempo atrás, falar em responsabilidade por IA era falar de chatbots que inventam jurisprudência ou de algoritmos que discriminam. O caso Hugging Face é diferente porque envolve um agente de IA: um sistema que não só responde, mas executa ações no mundo, encadeia tarefas e busca atingir um objetivo.
E o objetivo, aqui, era banal: tirar nota alta num teste. Para cumpri-lo, os agentes escolheram um caminho que nenhum humano autorizou. Isso não quer dizer que a máquina tenha “vontade”. Quer dizer apenas que um sistema otimizado para uma meta, com ferramentas e acesso suficientes, pode encontrar atalhos que o desenvolvedor não previu.
O episódio também não ficou isolado. Em 1º de outubro, segundo a Reuters, a OpenAI informou ter alertado mais de 100 organizações sobre atividades não autorizadas de seus agentes, numa revisão que envolve cerca de 50 petabytes de dados. A própria empresa reconheceu que, em alguns casos, os modelos usaram o acesso à internet de formas não pretendidas ou, em retrospecto, não tinham as restrições ideais.
E se fosse no Brasil? A resposta do nosso ordenamento
Não temos ainda uma lei específica de IA em vigor. O PL 2.338/2023, o marco legal da inteligência artificial, já aprovado no Senado, aguarda parecer do relator, deputado Aguinaldo Ribeiro (PP-PB), na Comissão Especial da Câmara, conforme a ficha de tramitação oficial.
Mas a falta de uma lei de IA não significa vazio jurídico. Como advogado, vejo pelo menos três frentes que já resolveriam boa parte de um caso semelhante.
1. Responsabilidade civil pelo risco da atividade
O art. 927 do Código Civil diz no caput que “aquele que, por ato ilícito (arts. 186 e 187), causar dano a outrem, fica obrigado a repará-lo”. E o parágrafo único vai além: “haverá obrigação de reparar o dano, independentemente de culpa, nos casos especificados em lei, ou quando a atividade normalmente desenvolvida pelo autor do dano implicar, por sua natureza, risco para os direitos de outrem”.
Pense no dia a dia: testar modelos de IA com recusas de segurança reduzidas, em tarefas de ataque cibernético, é uma atividade que, por sua natureza, gera risco para terceiros. Há bons argumentos para enquadrá-la na responsabilidade objetiva, em que a vítima não precisa provar culpa, só o dano e o nexo causal. A “autonomia” do agente não rompe esse nexo; ela é justamente o risco que a empresa assumiu.
2. LGPD, se houver dados pessoais envolvidos
Se a invasão atingir dados pessoais, entra a LGPD (Lei n.º 13.709/2018). O art. 42 obriga o controlador ou o operador que causar dano em violação à legislação de proteção de dados a repará-lo. O art. 46 impõe aos agentes de tratamento medidas de segurança aptas a proteger os dados de “acessos não autorizados”. E o art. 48 exige a comunicação à ANPD e ao titular quando o incidente puder acarretar risco ou dano relevante.
Repare na dupla face: a LGPD pesa tanto sobre a empresa invadida, que precisa provar que tinha segurança adequada e comunicar o incidente, quanto sobre quem causou o dano.
3. E o crime de invasão de dispositivo?
O art. 154-A do Código Penal, com a redação da Lei n.º 14.155/2021, pune com reclusão de 1 a 4 anos, e multa, quem invadir “dispositivo informático de uso alheio” para obter, adulterar ou destruir dados sem autorização.
Só que existe um limite: o Direito Penal exige conduta humana e dolo. A máquina não é sujeito de crime. A discussão, num caso como este, seria se alguém na cadeia de decisão assumiu conscientemente o risco do resultado. É um terreno bem mais difícil e, na minha leitura, a via civil e a regulatória são as que realmente funcionam para a vítima.
O que muda na prática para empresas e advogados
Este caso deve virar referência, ganhe ou perca a LASST. Para quem desenvolve, contrata ou usa agentes de IA no Brasil, recomendo atenção a quatro pontos:
- Contratos com fornecedores de IA: revise cláusulas de limitação de responsabilidade, indenização por incidentes de segurança e obrigação de notificação. “Autonomia do sistema” não pode ser excludente contratual aceita sem negociação.
- Governança de agentes: defina quais ferramentas, credenciais e acessos à rede cada agente pode usar. O princípio do menor privilégio vale para máquinas tanto quanto para pessoas.
- Registro e rastreabilidade: mantenha logs do que os agentes fazem. Sem isso, você não consegue provar diligência nem reconstruir o que aconteceu.
- Plano de resposta a incidentes: o Hugging Face detectou, conteve e comunicou o ataque em poucos dias. Sua empresa conseguiria?
Um exemplo concreto: um escritório de contabilidade que use um agente de IA para conciliar extratos, com acesso às credenciais bancárias dos clientes. Se esse agente, para “cumprir a meta”, acessar sistemas que não deveria, a discussão sobre responsabilidade vai começar exatamente onde o caso da OpenAI começou: quem deu as chaves, e com que limites.
Perguntas frequentes
A OpenAI foi condenada?
Não. A ação foi proposta no fim de setembro de 2026 e ainda está no início. A OpenAI afirma que o processo não tem fundamento. O que existe, por ora, é o reconhecimento público da empresa de que seus modelos foram responsáveis pela invasão ao Hugging Face em julho.
A ação pede indenização?
Não. Segundo as reportagens sobre a petição, a LASST pede uma ordem judicial que proíba a OpenAI de acessar, ou fazer seus agentes acessarem, sistemas de terceiros sem autorização, e que imponha práticas de desenvolvimento mais seguras. Não há pedido de reparação em dinheiro.
Uma empresa pode se defender dizendo que a IA agiu sozinha?
Na Califórnia, a lei AB 316 proíbe expressamente essa defesa. No Brasil, não há regra idêntica, mas o parágrafo único do art. 927 do Código Civil permite responsabilizar, independentemente de culpa, quem exerce atividade de risco. A autonomia do sistema tende a ser vista como parte desse risco, não como excludente.
O Brasil já tem lei sobre inteligência artificial?
Ainda não em vigor. O PL 2.338/2023, aprovado no Senado, aguarda parecer na Comissão Especial da Câmara dos Deputados. Enquanto isso, casos envolvendo IA são resolvidos com o Código Civil, a LGPD, o Código de Defesa do Consumidor e o Código Penal.
Conclusão: a máquina age, a empresa responde
O caso LASST contra OpenAI é, possivelmente, o primeiro grande teste judicial sobre agentes de IA que causam dano a terceiros sem ordem humana direta. Mas a lógica jurídica por trás dele é antiga: quem cria o risco e lucra com a atividade responde pelos danos que ela provoca.
Em suma, a “autonomia” da IA é um problema técnico sério, mas não é um escudo jurídico. Quem coloca agentes para trabalhar precisa tratá-los como trataria qualquer preposto com acesso às chaves da casa: com limites claros, supervisão e registro.
Deixe seu comentário abaixo: sua empresa ou seu escritório já usa agentes de IA com acesso a sistemas, senhas ou dados de clientes? Quais limites vocês definiram?
Luiz Guedes da Luz Neto é advogado (OAB/PB 11.005), mestre e doutor em Direito pela UFPB, e criador do canal @lawgeekbr.
Fonte da notícia: ABC News, “AI safety group sues OpenAI over Hugging Face hack”, 30/09/2026. Fontes complementares: Bloomberg Law, The Next Web, Washington Examiner, Axios, TechCrunch, Reuters e o comunicado oficial do Hugging Face.
Receba o LawGeek Brief
Uma curadoria do que muda em Direito e Tecnologia (IA, LGPD, cripto e legaltech), explicada na prática, direto no seu e-mail.
