Quando o erro é do robô: quem paga a conta

Imagine uma pessoa que vive do que publica em uma rede social. Numa manhã, o perfil que alimentou durante três anos não abre mais. Nenhum aviso prévio, nenhuma indicação de qual publicação violou qual regra: apenas uma mensagem automática informando que houve violação dos termos de uso. A rotina de publicar era a mesma de sempre. Quem errou foi o sistema. Fica a pergunta: se quem decidiu foi um programa, a empresa ainda responde pelo prejuízo?

O que o robô faz e o que ele pode errar

Quase toda plataforma que recebe milhões de publicações por dia usa moderação automatizada (quando algoritmos analisam conteúdos e comportamentos e decidem sobre remoções, suspensões e bloqueios sem que uma pessoa examine o caso). É uma escolha de negócio, e uma escolha compreensível: nenhuma equipe humana leria esse volume.

A escolha tem um custo conhecido. Sistema de moderação em escala produz falso positivo algorítmico (quando o sistema marca como infratora uma conta ou publicação que não violou nenhuma regra). Isso não é acidente isolado: é limitação estrutural do modelo.

Ao erro soma-se a opacidade algorítmica (a impossibilidade de entender por que o sistema decidiu daquele jeito, porque as regras internas não são divulgadas). A pessoa atingida recebe uma fórmula genérica sobre violação dos termos de uso, sem data, sem publicação apontada, sem a regra específica, e assim não tem como se defender no canal interno da empresa.

Quem escolhe automatizar assume o erro do sistema

A distinção que decide a discussão não tem nada de intuitiva. O direito separa dois tipos de evento imprevisível. O fortuito interno (evento que, embora imprevisto no caso concreto, é inerente à atividade que o fornecedor escolheu exercer) não afasta a responsabilidade, porque o risco faz parte do negócio. O fortuito externo (evento genuinamente alheio à atividade, imprevisível e irresistível) pode, em tese, afastá-la, e o padrão é exigente: precisa vir de fora de verdade.

A pergunta útil, então, não é se o algoritmo quis errar. Algoritmo não quer nada. A pergunta é de onde veio a falha: do serviço prestado ou de fora dele? Quando a moderação automatizada é o próprio serviço que a empresa montou, o erro dela é interno ao negócio. Quem decide filtrar contas por algoritmo escolhe também a margem de erro dele.

O Código Civil dá a esse raciocínio um ponto de apoio no art. 927, parágrafo único: quem exerce atividade que, por sua natureza, implica risco para os direitos de outras pessoas responde pelos danos independentemente de culpa. Entendo que moderar automaticamente o acesso de milhões de contas é atividade desse tipo, e registro que aplicar essa regra a plataformas digitais não é tese pacificada. Na relação de consumo existe caminho mais direto.

O que o CDC permite invocar como defesa

Esse caminho é o art. 14 do Código de Defesa do Consumidor, que adota a responsabilidade objetiva (a lei dispensa a prova de culpa: bastam o defeito, o dano e a ligação entre os dois). O fornecedor responde pelo defeito do serviço, e bloquear por engano quem não infringiu nada é defeito.

O § 3º do mesmo artigo abre as saídas, e são só duas. A primeira é provar que, tendo prestado o serviço, o defeito não existe. A segunda é provar culpa exclusiva do consumidor ou de terceiro.

Nenhuma delas se encaixa no erro do robô, na minha leitura. Provar que não houve defeito exigiria apontar a infração: qual publicação, em que data, contra qual regra. Sem nenhuma indicada, não há como sustentar que o serviço funcionou. Culpa exclusiva de quem contratou exigiria uma conduta dessa pessoa, e é exatamente ela que não foi identificada. Culpa exclusiva de terceiro exigiria alguém de fora, e a decisão de bloquear saiu do sistema da própria empresa.

O ônus de provar pesa do mesmo lado: pelo art. 373, II, do Código de Processo Civil, cabe a quem alega ter agido com justa causa demonstrar esse fato. Não é quem sofreu o bloqueio que prova não ter feito nada.

A linha que separa chateação de dano real

O contra-argumento clássico vem em duas palavras: mero dissabor (parâmetro que separa o aborrecimento cotidiano, não indenizável, da lesão efetiva a um direito). O Superior Tribunal de Justiça o formulou no Recurso Especial 337.771/RJ, relator o ministro Cesar Asfor Rocha, julgado pela Quarta Turma em 16/04/2002: receio ou dissabor não chegam ao patamar do dano moral, que exige agressão a exacerbar a naturalidade dos fatos da vida.

O parâmetro é correto, e entendo que é ele mesmo que resolve o caso do erro do robô. Não há nada de natural em perder, de um dia para o outro e sem causa apontada, o canal que sustenta uma atividade profissional. A Constituição protege o livre exercício de qualquer trabalho, ofício ou profissão (art. 5º, XIII); o Código Civil obriga quem causa dano por ato ilícito a repará-lo (arts. 186 e 927, caput) e mede a indenização pela extensão do dano (art. 944). Quando a conta é ferramenta de trabalho, o prejuízo sai da esfera do incômodo e fica contável em dinheiro.

Os julgados de mero dissabor não alcançam essa hipótese: formaram-se em situações sem perda econômica direta demonstrada. Dizer essa diferença tem nome técnico, distinguishing (demonstrar que um julgado invocado não serve porque os fatos não são os mesmos).

Em sentido convergente, o Tribunal de Justiça de Minas Gerais, na Apelação Cível 1.0000.23.285695-5/002, relatora a desembargadora Evangelina Castilho Duarte, julgada em 03/07/2025, decidiu que a alegação genérica de infração aos termos de uso, sem indicação do conteúdo violador e sem prova documental, não configura justa causa, e que a medida unilateral compromete a liberdade de exercício profissional, para além do mero aborrecimento. No mesmo tribunal, a Apelação Cível 1.0000.24.518883-4/001, relatora a desembargadora Shirley Fenzi Bertão, julgada em 17/03/2025, reconheceu o dever de indenizar pela retirada indevida de perfil comercial.

Ouve-se ainda que reconhecer dano em caso assim alimentaria uma indústria de indenizações. A objeção não responde à pergunta jurídica: houve defeito, houve dano, há ligação entre os dois?

Outra lei, outro debate

Convém afastar uma confusão frequente. O art. 19 do Marco Civil da Internet (Lei 12.965/2014) trata da responsabilidade do provedor de aplicações pelo conteúdo que terceiros publicam, e a sujeita, como regra, ao descumprimento de ordem judicial específica sobre aquele conteúdo. O bloqueio da conta é outra coisa: não se discute o que outras pessoas publicaram, e sim uma decisão da própria plataforma contra quem contratou o serviço dela, o que é relação de consumo. O art. 19 governa outro debate, e não serve de escudo neste.

Quem escolhe o algoritmo escolhe o risco dele. A lei não pergunta se houve intenção de errar: pergunta se houve defeito, dano e ligação entre os dois. Quando a conta atingida é ferramenta de trabalho, o tamanho do prejuízo não depende de sentimento. Diante de um bloqueio sem motivo apontado, a pergunta a fazer por escrito é curta: qual publicação, em que data, contra qual regra.

Os temas desta série vêm de questões que enfrentei em processos reais. Os exemplos do texto são hipotéticos: nenhum caso concreto é descrito e nenhuma parte é identificável.

José dos Reis G. Rodrigues, OAB/MG 240.179