Quem paga quando a máquina erra?

    Imagine que você acorda um dia e descobre que foi reprovado em um financiamento. Sem explicação humana. Sem rosto do outro lado. Apenas um sistema que processou seus dados, calculou um risco e decidiu, em milissegundos, que você não merece crédito. Isso já acontece. E a pergunta que o Direito começa a ter que responder, agora com mais urgência, não é mais "o algoritmo pode errar?" E "quem paga quando ele erra?"

    Esse deslocamento de foco é significativo. Durante anos, o debate sobre IA jurídica orbitou em torno da responsabilização das plataformas por conteúdo de terceiros. Mas as legislações que começaram a amadurecer em 2024, a exemplo do AI Act europeu e das primeiras regulações administrativas brasileiras, agora chegam a uma fase diferente: a das indenizações práticas. O dano já foi causado. Alguém precisa responder.

    O problema é que o modelo clássico de responsabilidade civil, construído sobre a tríade ato ilícito, nexo causal e dano, pressupõe um sujeito identificável. Um algoritmo de recomendação que amplifica um conteúdo difamatório, ou um sistema de análise de crédito que replica vieses históricos de raça e renda, não tem intenção. Não delibera. Mas produz consequências reais na vida de pessoas reais. Freud já sabia que o inconsciente não conhece negação. Um sistema treinado com dados enviesados tampouco.

    Aqui, a teoria do risco, consolidada no parágrafo único do artigo 927 do Código Civil, parece o caminho mais honesto. Quem introduz no mercado uma tecnologia que, por sua própria natureza, carrega potencial de dano, responde objetivamente pelo resultado. Não porque agiu com culpa, mas porque extraiu o proveito da atividade. A empresa que monetiza a atenção do usuário através de um algoritmo de recomendação não pode, depois, alegar que "a máquina decidiu sozinha".

    Talvez o que esteja em jogo seja algo mais profundo do que uma tese jurídica. É uma questão de responsabilidade simbólica, no sentido que Lacan daria ao termo: a capacidade de assumir as consequências dos próprios atos dentro de uma ordem social. Empresas que delegam decisões a sistemas opacos tentam se esquivar dessa responsabilidade. O Direito precisa recusá-las essa saída.  A conta chegou. E não vai mais embora.

Ewerton Ferreira Madeira | Advogado  Estudioso em Direito, Psicologia do Direito — Psicanálise e Filosofia do Direito.