O impasse entre a Anthropic e o Pentágono expôs uma contradição que vai além de contratos: sistemas algorítmicos já operam em cadeias de decisão letais sem que exista, em muitos casos, uma estrutura clara e verificável de responsabilidade.

Segundo relatos publicados em março de 2026, o Departamento de Defesa dos Estados Unidos passou a tratar a Anthropic, criadora do sistema de inteligência artificial Claude, como risco à cadeia de suprimentos nacional. A designação, normalmente associada a atores estrangeiros considerados sensíveis, teria sido uma resposta à recusa da empresa em remover restrições éticas de sua tecnologia como condição para renovar um contrato de 200 milhões de dólares. Donald Trump assinou uma ordem determinando que agências federais interrompessem imediatamente o uso dos modelos da empresa.

Ao mesmo tempo, de acordo com reportagem do Wall Street Journal, o Comando Central dos Estados Unidos continuava usando o Claude em operações contra o Irã, para avaliações de inteligência, identificação de alvos e simulação de cenários de batalha. A tecnologia seguiu operando enquanto sua fornecedora era oficialmente tratada como ameaça. Essa contradição, antes de qualquer interpretação, já carrega o dado mais revelador do episódio: o sistema foi considerado operacionalmente indispensável mesmo depois de seu fornecedor ser enquadrado como risco. O que isso diz sobre a dependência real das forças armadas americanas em relação a sistemas privados de IA é uma pergunta que o impasse abriu e que ninguém respondeu formalmente.

O episódio não se resume a uma disputa contratual. Ele torna visível algo que a história das guerras produziu de modo lento e que a automação acelerou de maneira abrupta: a progressiva separação entre quem decide, quem executa e quem responde. Por séculos, a responsabilidade pela morte em contexto de guerra foi objeto de regulação moral, jurídica e filosófica precisamente porque a proximidade entre o agente e o ato tornava a atribuição possível, ainda que sempre contestada. O que os sistemas algorítmicos introduzem não é apenas velocidade ou eficiência. É uma nova geometria da responsabilidade, na qual a decisão se distribui por tantas etapas, protocolos e agentes que sua imputação se torna estruturalmente difícil.

Pesquisadores de direito internacional, ética aplicada e governança de sistemas autônomos discutem esse fenômeno há anos sob conceitos como accountability gap e meaningful human control. A questão, em termos diretos, é esta: quando um sistema algorítmico entra na cadeia de uma decisão letal, quem pode ser responsabilizado pelo resultado? O operador seguiu o procedimento. O modelo gerou uma avaliação com base nos dados recebidos. O oficial autorizou a síntese dentro dos parâmetros disponíveis. O sistema calculou probabilidades segundo critérios previamente definidos. A responsabilidade não desaparece, mas se fragmenta por tantas etapas que sua imputação jurídica e moral se torna significativamente mais difícil. Não se trata de metáfora. É o mecanismo descrito na literatura sobre sistemas de armas autônomos, os chamados LAWS, e documentado em análises do Comitê Internacional da Cruz Vermelha e em documentos de trabalho do Grupo de Especialistas Governamentais da ONU sobre sistemas letais autônomos. O que perturba não é que o fenômeno seja desconhecido. É que esteja documentado há tanto tempo e que a resposta institucional continue sendo, em grande medida, adiada.

Há uma dimensão desse problema que ultrapassa o técnico e o jurídico, e que tem a ver com o que as civilizações fizeram historicamente com a morte infligida. A ética da guerra, desde os tratados medievais até as convenções contemporâneas, operou sempre sobre um pressuposto: que existe um agente moral identificável por trás do ato, e que esse agente pode ser responsabilizado, punido, julgado ou ao menos nomeado. A automação decisória corrói esse pressuposto não porque elimine o agente humano da cadeia, mas porque o dissolve em infraestrutura. E infraestrutura, diferente de pessoa, não responde a tribunal.

A Anthropic tentou resistir a esse padrão por meio de restrições contratuais. Suas condições incluíam a proibição de uso em vigilância em massa de cidadãos americanos e em armas sem supervisão humana verificável. Eram restrições reais, formuladas a partir de uma avaliação séria sobre os riscos da tecnologia. No conflito com o Pentágono, essas limitações apareceram como obstáculo operacional. E foram tratadas como tal.

O ponto mais revelador do impasse, no entanto, não está na disputa em si. Está na natureza do mecanismo que a Anthropic tentou usar: uma política ética externa ao sistema, sobreposta a ele como compromisso contratual, não integrada a ele como condição de funcionamento. A distinção importa na prática, e mais do que parece à primeira leitura. Uma política depende da adesão contínua de quem tem poder para revogá-la. Pode ser suspensa por decreto, contornada por uma agência que prefira não perguntar ou ignorada enquanto a operação já está em andamento. Uma restrição embutida na arquitetura do sistema funciona de outro modo: não opera como recomendação, mas como condição. O sistema deixa de executar determinadas operações não porque alguém pediu que não o fizesse, mas porque foi construído para não poder fazê-las em certas circunstâncias. A diferença entre os dois modelos é, em termos práticos, a diferença entre uma promessa e uma impossibilidade estrutural.

Essa distinção é o núcleo de qualquer debate sério sobre governança de IA em contextos militares. O princípio do meaningful human control foi formulado precisamente para criar essa camada verificável de responsabilidade. O caso Anthropic sugere que, quando esse princípio é levado a sério por uma empresa, ele pode se tornar um obstáculo comercial. E quando é apenas declarado, sem mecanismo real de verificação, permanece como intenção. O mundo ainda governa sistemas letais pelo regime da intenção.

Pesquisadores, incluindo grupos ligados ao Grupo de Especialistas Governamentais da ONU sobre LAWS, têm proposto arquiteturas que incorporem restrições normativas diretamente à estrutura decisória de sistemas de IA, em vez de tratá-las como camada separada de compliance. Nessa direção, propostas como a Função Ƹ* apontam para a possibilidade de um julgamento moral adaptativo embutido na própria arquitetura do sistema: um mecanismo que calibre, de modo auditável, os pesos éticos de uma decisão a partir do contexto, da reversibilidade do dano e da presença de afetados que não participaram de nenhum processo reconhecível de autorização. O que o sistema operacional correlato, o SCEPƎ, tenta formalizar é precisamente essa ideia: que diante de um limiar de dano irreversível, o sistema não apenas recalcula, mas interrompe o processo e devolve a deliberação ao operador humano como condição para que a operação prossiga. Não como recomendação. Como trava.

A proposta ainda está em nível conceitual e exige especificação técnica, jurídica e operacional detalhada: quais limiares, definidos por quem, auditados como, contestados por qual mecanismo. Mas o problema que ela tenta enfrentar é real e amplamente documentado. A objeção de que sistemas auditáveis poderiam aumentar a rastreabilidade das decisões é válida. Rastreabilidade, porém, registra o que aconteceu. Não impede que aconteça. O que falta não é apenas log de decisão. É uma estrutura que dificulte operacionalmente, e não apenas formalmente, ações incompatíveis com limites mínimos de controle humano verificável. A diferença entre registrar uma morte e impossibilitar estruturalmente que ela ocorra por falha de atribuição é a diferença que esse debate ainda não conseguiu atravessar.

Durante o impasse, um especialista da Universidade de Oxford observou que o episódio revelava lacunas de governança anteriores a qualquer governo e que provavelmente persistiriam depois. Logan Graham, líder da equipe de análise de cenários negativos da Anthropic, disse à revista Time que não existe “uma sala cheia de adultos” resolvendo esse problema, e que a responsabilidade acaba recaindo sobre cada ator individualmente. Os diagnósticos são pertinentes. Mas há algo que eles não alcançam: distribuir responsabilidade individual sobre uma estrutura cujos incentivos empurram sistematicamente em outra direção não corrige o mecanismo. Corrige a consciência de quem o descreve. O problema só começa a ser enfrentado quando se criam estruturas que tornem certas decisões mais difíceis de executar, e não apenas mais difíceis de justificar depois.

O impasse entre a Anthropic e o Pentágono não foi, em última análise, apenas uma disputa sobre um contrato. Ele expôs uma fratura que atravessa a história da moral ocidental desde que ela começou a separar o agente do ato: quem define os limites do que pode ser feito quando vidas humanas entram no cálculo operacional, e se esses limites existirão como política revogável ou como condição estrutural não negociável. A vida, reduzida a variável numa simulação de batalha, não recupera seu peso ontológico apenas porque alguém, em algum ponto da cadeia, tinha intenções razoáveis. E a resposta sugerida pelo episódio é inquietante. Por enquanto, esses limites parecem depender menos de garantias institucionais estáveis do que da disposição contingente de empresas em sustentá-los e da capacidade política de fazê-lo sem retaliação.

Se sistemas de IA já participam de decisões das quais depende a vida de terceiros, a questão deixa de ser apenas tecnológica. Passa a ser, de forma que se torna cada vez mais difícil ignorar, uma questão sobre que tipo de estrutura civilizatória estamos dispostos a construir antes que a próxima decisão já tenha sido tomada.

*Leonardo Costa é fundador da 247 Locação, doutorando em Inteligência Artificial e Ética Computacional. Especialista em Engenharia de Software, Gestão Estratégica e Gerenciamento de Projetos, atua na pesquisa da fronteira entre moralidade tecnogênica, deliberação algorítmica e justiça transespécie, com publicações de impacto internacional.

**O conteúdo e as opiniões expressas nos artigos publicados são de responsabilidade exclusiva dos autores.

*** Conecte-se com o colunista pelo Linkedin!

Leia também