Triagem de clientes com IA: até onde a automação pode decidir sem gerar responsabilidade

Triagem de clientes com IA: balança da justiça e ícone de filtro digital representando o risco de discriminação algorítmica na seleção automatizada de casos
0 0
Read Time:5 Minute, 6 Second

A resposta curta sobre triagem de clientes com IA é: não existe hoje nenhuma norma brasileira que trate especificamente de escritórios usando IA para triar ou recusar clientes, mas isso não significa terreno livre.

A LGPD já garante, no art. 20, o direito de qualquer pessoa pedir revisão de decisão tomada unicamente por tratamento automatizado que afete seus interesses, e princípios gerais de responsabilidade civil e de vedação à discriminação se aplicam a qualquer automação que produza resultado desigual sem justificativa técnica. Usar IA para organizar a triagem de casos é legítimo; deixar que ela decida sozinha quem o escritório atende, sem revisão humana, é onde o risco começa.

O que a LGPD garante — e o que ela não garante sobre triagem de clientes com IA

O art. 20 da LGPD dá ao titular o direito de solicitar revisão de decisões tomadas unicamente com base em tratamento automatizado que afetem seus interesses, incluindo decisões que definam perfil pessoal, profissional, de consumo ou de crédito. O controlador precisa fornecer informações claras sobre os critérios usados, respeitados eventuais sigilos comercial e industrial, e a ANPD pode auditar o tratamento para verificar aspectos discriminatórios se essas informações forem negadas.

Vale um esclarecimento que costuma gerar confusão: diferente do que ocorre na legislação europeia, a LGPD não garante expressamente que a revisão seja feita por uma pessoa natural — o texto brasileiro fala em direito de solicitar revisão e de obter explicação sobre os critérios, sem especificar quem faz essa revisão.

O que ainda não existe: regra específica para triagem de clientes na advocacia

Nem a ANPD nem a OAB têm até o momento norma específica sobre uso de IA para triagem ou scoring de clientes por escritórios de advocacia. A ANPD conduziu uma tomada de subsídios sobre inteligência artificial e revisão de decisões automatizadas, reunindo mais de cem contribuições da sociedade, mas o resultado ainda é insumo para regulamentação futura do art. 20, não norma vigente.

A Recomendação 1/24 do CFOAB, de novembro de 2024, menciona genericamente o risco de resultados discriminatórios decorrentes de dados de treinamento enviesados, mas não trata especificamente de recusa automatizada de cliente ou caso. Essa lacuna normativa significa que a análise de risco, por ora, precisa se apoiar em princípios gerais, não em regra específica pronta para citar.

Os princípios gerais que já se aplicam à triagem de clientes com IA

Na ausência de norma específica, três blocos de princípios gerais orientam a análise: o Código Civil, no art. 186, trata como ato ilícito qualquer violação de direito que cause dano, ainda que exclusivamente moral, o que alcança uma recusa automatizada discriminatória; o Código de Defesa do Consumidor, nos arts. 39, III e IV, veda a recusa de atendimento sem justa causa e práticas abusivas que se aproveitem da vulnerabilidade do consumidor, hipótese que a doutrina discute se alcança a relação entre escritório e cliente, sem posição pacífica.

A Constituição, no art. 5º, caput e inciso XLI, estabelece a igualdade como direito fundamental e manda a lei punir qualquer discriminação. Nenhum desses dispositivos foi escrito pensando em triagem de clientes por IA, então aplicá-los a esse cenário é exercício de interpretação por analogia, não citação de norma diretamente aplicável — essa distinção importa para não apresentar ao cliente uma certeza jurídica que ainda não existe.

Onde o risco concreto aparece

O cenário de risco mais evidente é um sistema de triagem que usa variáveis proxy de características protegidas, como CEP, sobrenome ou padrão de linguagem, para decidir automaticamente se um caso vale a pena ser aceito, sem que ninguém do escritório revise essa decisão antes da recusa chegar ao interessado. Mesmo sem intenção discriminatória, um modelo treinado com dados históricos do próprio escritório pode reproduzir padrões de recusa que, agregados, resultam em discriminação indireta.

Documentar os critérios de triagem usados, revisar humanamente qualquer recusa antes de comunicá-la, e auditar periodicamente se o padrão de aceitação e recusa se distribui de forma desigual entre grupos, são práticas de mitigação de risco, não exigência normativa expressa — mas seguem a mesma lógica de supervisão humana que já discutimos ao tratar de como montar uma política interna de uso de IA no escritório.

Perguntas frequentes

Um escritório pode usar IA para organizar a triagem de novos casos que chegam?

Pode, e é uma aplicação legítima de automação para organizar volume de demanda. O risco jurídico aparece quando a IA decide sozinha, sem revisão humana, recusar ou aceitar um caso com base em critérios que podem correlacionar com características protegidas.

O cliente recusado por um sistema automatizado tem direito de saber por quê?

Tem, com base no art. 20 da LGPD, que garante o direito de solicitar revisão e obter explicação sobre os critérios usados na decisão automatizada que o afetou.

Existe alguma norma da OAB especificamente sobre isso?

Não, até o momento. A Recomendação 1/24 do CFOAB trata do uso de IA na advocacia de forma mais ampla e menciona o risco de discriminação algorítmica de forma genérica, sem regra específica sobre triagem automatizada de clientes.

Em suma sobre triagem de clientes com IA

A ausência de norma específica sobre triagem de clientes com IA não significa ausência de risco jurídico, significa que a análise precisa se apoiar em princípios gerais de responsabilidade civil, consumidor e igualdade, aplicados por analogia a um cenário que a legislação ainda não previu diretamente.

Documentar critérios e manter revisão humana antes de qualquer recusa é, por enquanto, a proteção mais concreta disponível. Para o texto oficial do direito de revisão de decisões automatizadas, vale consultar diretamente o art. 20 da LGPD no site do Planalto.

About Post Author

Luiz Guedes da Luz Neto

Luiz Guedes da Luz Neto é advogado (OAB/PB 11.005), mestre e doutor em Direito. Há mais de 10 anos escreve sobre temas jurídicos, com foco em direito digital, tecnologia, inteligência artificial e regulação. É o responsável técnico pelo conteúdo publicado no LawGeek, sempre fundamentado em legislação, doutrina e jurisprudência atualizadas.
Happy
Happy
0 %
Sad
Sad
0 %
Excited
Excited
0 %
Sleepy
Sleepy
0 %
Angry
Angry
0 %
Surprise
Surprise
0 %
Responsabilidade das plataformas por conteúdo de terceiros: ícones de rede social e balança da justiça representando a decisão do STF sobre o art. 19 do Marco Civil Previous post Moderação de conteúdo e responsabilidade das plataformas: o que decidiu o STF sobre o art. 19 do Marco Civil

Average Rating

5 Star
0%
4 Star
0%
3 Star
0%
2 Star
0%
1 Star
0%

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *