Li na edição de 2 de março de 2026 do The Wall Street Journal uma reportagem sobre a adoção acelerada de sistemas de inteligência artificial (IA) por grandes corporações para decisões operacionais, avaliação de risco e compliance interno. O foco aparente era eficiência. Redução de erro humano. Padronização de critérios. A linguagem era familiar: governança, supervisão, transparência, responsabilização compartilhada.

Mas algo ali me chamou atenção, e não estava na manchete. Não era o entusiasmo com produtividade. Nem a disputa competitiva entre empresas que correm para não ficar atrás. Foi a naturalidade com que executivos descreviam decisões críticas como “seguindo a recomendação do modelo”. Não como abdicação. Como prudência.

A frase parecia banal. Não era.

Porque se a recomendação do modelo é o que define o que é prudente, então a decisão já não começa onde imaginávamos que começava.

Há algo estranho em como falamos disso. Falamos como quem descreve um martelo muito bom. Poderoso, sim. Complexo, certamente. Mas ainda ferramenta. Ainda algo que fica quieto quando ninguém usa, que não tem preferências próprias, que aguarda a mão humana para adquirir direção e sentido, mas tenho mais essa certeza.

Percebo, enquanto escrevo, que essa certeza não foi abandonada de uma vez. Ela se dissolveu aos poucos, camuflada sob a linguagem do progresso inevitável, da atualização necessária, da adoção responsável. E essa dissolução lenta é parte do problema, talvez seja o problema inteiro, porque o que se perde gradualmente não deixa o instante preciso em que deveria ter sido defendido.

Por milênios, decidir foi sinônimo de carregar peso e até mesmo de fardo. Havia a vertigem de não saber, o erro que ficava colado ao nome de alguém, a responsabilidade que não tinha como ser dividida infinitamente sem desaparecer. Mesmo cercado de conselheiros, relatórios e pareceres técnicos, havia sempre um ponto de chegada humano. Alguém que assinava. Alguém sobre quem a culpa podia recair com nitidez suficiente para que tribunais soubessem onde sentar o réu, para que a história soubesse a quem atribuir o desastre, para que a punição tivesse endereço, era o ônus da responsabilidade.

Mas talvez isso sempre tenha sido, em parte, ficção organizadora.

Talvez o juiz que condenava já estivesse operando dentro de um campo moldado pelo direito antes dele, por uma cultura que havia sedimentado o que conta como prova, por um idioma jurídico que havia tornado formuláveis apenas certas perguntas e não outras. Talvez o general que ordenava já não pudesse imaginar alternativas que a doutrina militar havia silenciosamente descartado décadas antes. Talvez o executivo que aprovava investimento já estivesse condicionado por métricas financeiras que delimitavam o pensável muito antes da reunião de conselho.

Se for assim, o que a inteligência artificial introduz não é ruptura, mas uma revelação. É um espelho grande demais para fingir que não vemos. O problema é que agora a estrutura tem interface. Tem versão, fornecedor e contrato.

Modelos fundacionais não apenas executam. Organizam o espaço do possível antes que a pergunta seja formulada. Hierarquizam riscos. Classificam perfis. Delimitam o plausível. E quando a decisão finalmente chega ao humano, ela já vem precedida de probabilidade, recomendação e otimização. O humano escolhe. Mas escolhe dentro de um terreno que já foi cercado. E a cerca não aparece no campo visual de quem foi treinado a operar dentro dela.

Na reportagem do Wall Street Journal, a adoção de IA era apresentada como fortalecimento de governança. Modelos auditáveis. Sistemas explicáveis. Processos rastreáveis. O vocabulário é tranquilizador, mas quando um conselho afirma que seguiu o modelo, algo muda silenciosamente. A pergunta deixa de ser “quem decidiu?” e passa a ser “o modelo foi corretamente aplicado?”. Essa substituição é decisiva.

A responsabilidade deixa de estar no ato. Passa a estar na conformidade.

A ética vira auditoria. O julgamento moral vira certificação técnica. E a organização que obtém a certificação pode afirmar, com absoluta sinceridade, que agiu de forma responsável. Mesmo que o dano exista. Mesmo que alguém tenha pago o preço de uma decisão que ninguém exatamente tomou no sentido em que ainda usamos essa palavra quando precisamos atribuir culpa a alguém de carne e nome. Ninguém mente nessa cadeia. É isso que torna difícil de encarar.

Quando a punição perde endereço, a justiça não falha. Ela fica sem objeto. O réu não fugiu. Sumiu estruturalmente.

O sistema ocupa o lugar do banco dos réus. Mas sistemas não podem ser condenados no sentido que as instituições reconhecem. Podem ser ajustados. Atualizados. Otimizados. O erro vira bug. O bug vira patch. O patch vira nova versão. E a cadeia de responsabilidade se dilui numa sequência técnica que parece, de fora, melhoria contínua.

A indústria percebeu o desconforto.

Tratou como oportunidade.

E respondeu com produto.

Chama-se explicabilidade. XAI, nos documentos técnicos. A promessa é sedutora: se o sistema pode explicar como chegou à conclusão, então podemos supervisioná-lo, contestá-lo, governá-lo. Transparência como solução. Interface como substituto de política. Mas explicabilidade não é governança.

Quando um sistema de crédito explica que a recusa decorre de desvio estatístico em relação ao cluster de referência, ele está descrevendo mecanismo. Não está expondo a escolha normativa que definiu o que conta como risco, o que conta como normalidade, o que conta como aceitável perder. A explicação mostra o funcionamento da cerca. Não mostra quem a desenhou, com que interesse, sobre qual mapa. A explicabilidade é a cerca com janelas.

Você pode olhar para fora e continua dentro.

E a indústria que vende transparência como produto sabe, em alguma medida, o que está vendendo. Não necessariamente com cinismo. Às vezes com convicção genuína de que transparência parcial é melhor que opacidade total, o que pode ser verdade, e que também serve para paralisar a exigência de algo mais radical. O fato de ser verdade e de ser conveniente simultaneamente é o tipo de coincidência que merece atenção prolongada.

Há ainda uma camada que a narrativa celebratória insiste em esquecer. Esses sistemas existem materialmente. Dependem de chips fabricados em poucos territórios estratégicos, de energia em quantidades que dobram a cada ciclo de expansão, de minerais extraídos em condições que não aparecem nos relatórios ESG, de cadeias logísticas vulneráveis a tensões que nada têm de abstratas. A arquitetura cognitiva que reorganiza decisões corporativas flutua no discurso como abstração matemática. Está ancorada em disputa geopolítica real. E quem controla a infraestrutura que sustenta o parâmetro e controla mais do que mercado. Controla o que pode aparecer como risco legítimo. O que pode aparecer como desvio e como decisão racional.

O design tornou-se locus de normatividade.

E quando o design define o que pode ser visto como desvio, ele define também, silenciosamente, o que pode um dia ser punido e o que vai continuar sendo chamado de eficiência.

Escrevo isso e me pego desconfiando da própria posição crítica de fazê-lo. Denunciar a estrutura invisível tem seu próprio conforto, sua própria forma de não arriscar nada de verdade. Quem denuncia o condicionamento sente-se, por um momento, exterior a ele. Mas eu não estou fora. Escrevo usando sistemas parametrizados por terceiros. Analiso com categorias herdadas de instituições que também operam sob métricas. Formulo o problema dentro de uma linguagem que também foi estruturada antes de mim, por interesses que não examinei completamente, em idiomas que excluem formas de pensar que simplesmente não tenho acesso de reconhecer como excluídas, e você também.

O executivo que assina o contrato de adoção de um modelo sem examinar os critérios embutidos nele não está apenas tomando decisão técnica. Está transferindo para terceiros a função que define o que sua organização vai conseguir enxergar como problema. Está terceirizando, silenciosamente, a alma decisória da instituição. E pode fazer isso com toda a documentação em ordem, com o jurídico aprovado, com o compliance certificado e a explicabilidade contratada como cláusula adicional.

E o contrato vai dizer que a responsabilidade é compartilhada, isso quer dizer que, quando algo falhar, ela vai pertencer a todos e a ninguém.

O que acontece com a ideia de responsabilidade quando decidir se torna aplicar parâmetro corretamente?

Não como alarme moral. Como transformação de estrutura.

Talvez já estejamos num mundo em que o réu desapareceu antes que percebêssemos que o banco ainda estava ali, que o vocabulário da culpa ainda circulava nas conversas, que as cerimônias da responsabilização continuavam acontecendo com toda a solenidade necessária para parecerem reais.

E talvez a modernização da governança que celebramos seja também a reorganização silenciosa do lugar onde a culpa poderia ter sido colocada.

O banco permanece, o réu não.

*Leonardo Costa é fundador da 247 Locação, doutorando em Inteligência Artificial e Ética Computacional. Especialista em Engenharia de Software, Gestão Estratégica e Gerenciamento de Projetos, atua na pesquisa da fronteira entre moralidade tecnogênica, deliberação algorítmica e justiça transespécie, com publicações de impacto internacional.

** Conecte-se com o colunista pelo Linkedin!

*** Os artigos são de responsabilidade de seus autores e não expressam, necessariamente, a opinião deste veículo de comunicação.

Veja também

O instante em que a guerra deixou de começar