Por Leonardo Costa* – Doutorando em Inteligência Artificial e Ética Computacional. Especialista em Engenharia de Software, Gestão Estratégica e Gerenciamento de Projetos.

O que acontece quando dois agentes de IA chegam a conclusões opostas sobre o mesmo dado? Otimizamos para a média ou aceitamos que toda decisão, inclusive a técnica, é um ato de poder mal disfarçado?

Há um momento curioso, quase íntimo, no desenvolvimento das tecnologias de inteligência artificial. Ele não aparece nos anúncios, nem nos manuais, tampouco nas apresentações otimistas sobre produtividade. Surge quando tudo já funcionou como deveria, quando os agentes buscaram dados, analisaram contextos, cruzaram informações, produziram respostas plausíveis. E então algo trava. As respostas não coincidem. As recomendações divergem. O sistema hesita. Nesse intervalo silencioso, raramente mostrado, nasce uma pergunta desconfortável. Quem decide agora?

Costumamos falar de RAG, de agentes autônomos, de sistemas multiagente como se fossem apenas avanços técnicos, camadas adicionais de eficiência. Mas por trás dessas arquiteturas há uma herança antiga, quase invisível. Desde os primeiros sistemas especialistas do século passado, a decisão foi sistematicamente empurrada para fora do campo técnico. Quando algo não fecha, quando há conflito, presume-se que a resposta correta emergirá sozinha, pela média, pela maioria, pela heurística mais conveniente. A técnica avança. A decisão se oculta.

O problema é que sistemas com múltiplos agentes não são apenas mais rápidos ou mais sofisticados. Eles são plurais. Produzem leituras do mundo que não coincidem entre si. Cada agente opera com pressupostos distintos, critérios próprios, pesos que não se alinham perfeitamente. Quando tudo converge, o conflito permanece invisível. Quando diverge, ele surge como um ruído incômodo que muitos tentam suavizar. Mas conflito não é falha. Conflito é o ponto exato em que a decisão se torna inevitável.

Basta imaginar um cenário clínico já bastante comum. Dois sistemas analisam a mesma tomografia. Um identifica sinais compatíveis com um tumor maligno. O outro sugere uma alteração benigna. Ambos operam dentro de parâmetros estatísticos aceitáveis. Ambos são tecnicamente defensáveis. O conflito não é conceitual. É concreto. Alguém precisa decidir qual interpretação orienta o tratamento. Não há neutralidade possível quando a divergência atravessa um corpo real.

Ao longo da história, sociedades criaram instâncias para tornar o desacordo suportável. Tribunais, conselhos, parlamentos, assembleias. Não para eliminar a divergência, mas para admitir que ela existe e precisa ser atravessada. A técnica contemporânea, curiosamente, tenta fazer o contrário. Age como se a divergência pudesse ser dissolvida automaticamente, como se decisões complexas pudessem ser resolvidas apenas acumulando respostas compatíveis.

É dessa fricção que se impõe a arquitetura discutida aqui. Não como mais um fluxo de agentes, mas como a explicitação de algo que permanecia implícito. Os agentes não entregam respostas finais. Produzem relatórios. Afirmações, evidências, incertezas, graus de confiança, impactos possíveis. Material ainda informe, que não decide nada por si só. O centro do sistema não é o volume de informação, mas o instante em que alguém, ou algo, precisa assumir o peso de fechar uma escolha.

Em sistemas autônomos de direção, essa cena ocorre em frações de segundo. Um módulo recomenda frear imediatamente. Outro sugere desviar. Ambos reagem ao mesmo ambiente, ambos operam dentro de margens aceitáveis de risco. As recomendações são incompatíveis. Não se trata de escolher a melhor explicação, mas a ação que será executada. A decisão acontece ali, sob pressão, sem possibilidade de neutralidade retrospectiva.

Esse alguém não é um orquestrador neutro. É uma instância decisória. Um agregador que arbitra conflitos epistêmicos, compara divergências, reconhece quando recomendações são estruturalmente incompatíveis. Sua autoridade não deriva de consenso nem de média estatística, mas de critérios explicitamente assumidos. Divergência mensurável. Limiares dinâmicos. Possibilidade real de veto. Registro do que foi decidido e do que foi descartado. Nada disso acontece por acidente. Tudo isso precisa existir como estrutura.

Aqui emerge a camada que costuma faltar. A ética não como intenção vaga, nem como boa formulação de prompt, mas como elemento computável do sistema. Quando a divergência ultrapassa certo ponto, a decisão já não pode ser disfarçada. Ela acontece como um fechamento. Um colapso. Não no sentido de erro ou falha, mas no sentido físico do termo. Entre caminhos incompatíveis, um se estabiliza. Os outros deixam de existir como opção, ainda que silenciosamente.

Não há conforto nisso. Não há promessa de decisões corretas em sentido absoluto. O que há é rastreabilidade. Justificativa. A admissão explícita de que decidir envolve perda, exclusão e risco. Durante séculos, aprendemos a esconder esse fato sob a ideia reconfortante de neutralidade. Agora ele retorna, inscrito em código, em arquitetura, em diagramas que se recusam a tranquilizar.

Essa tensão não se limita a cenários extremos. Ela atravessa decisões cotidianas. Sistemas automatizados de concessão de crédito já operam com agentes que ponderam histórico financeiro, padrões estatísticos e projeções de risco. Um recomenda aprovação. Outro sinaliza recusa. O resultado final não é apenas técnico. Ele redefine trajetórias de vida, acesso a oportunidades, margens de futuro. Ainda assim, costuma ser apresentado como neutro, como se a decisão tivesse simplesmente acontecido.

Talvez o desconforto venha daí. Quando sistemas passam a decidir de forma explícita, somos forçados a encarar algo que sempre fizemos, mas preferimos não nomear. Toda decisão real carrega uma ética, mesmo quando insistimos que ela não existe. Ao tornar isso visível nas máquinas, acabamos expondo também nossas próprias ficções.

Este não é um texto sobre um futuro distante. É sobre um ponto muito específico do presente. O momento em que inteligências artificiais deixam de apenas responder e passam a decidir. Quando isso acontece, já não basta buscar melhor. Torna-se inevitável perguntar quem assume a responsabilidade quando não há acordo possível. E o que fazemos quando as máquinas começam, silenciosamente, a nos devolver essa pergunta.

**Conecte-se com o colunista pelo Linkedin!

*** O conteúdo e as opiniões expressas nos artigos publicados são de responsabilidade exclusiva dos autores.

Leia também:

• Especialistas apontam desafios de valorização profissional e sustentabilidade criativa diante do avanço da IA
• Samsung Ocean abre inscrições para programa de pré-aceleração de startups na Amazônia
• Quem aprender a CONSTRUIR e GERIR com IA agora vai redefinir o mercado nos próximos anos
• Prefeitura cria estrutura de governança para fortalecer Distrito de Inovação em Manaus
• Inpa utilizou armadilhas fotográficas e fez descobertas sobre os hábitos de um dos mamíferos mais raros da Amazônia