ZexIAFalar Conosco
Contato
Voltar ao Blog
Inteligência Artificial

Humano no loop não é freio de segurança. É carimbo — a menos que você meça

ZexIA Inteligência9 min de leitura
Humano no loop não é freio de segurança. É carimbo — a menos que você meça

A discussão sobre agentes de IA amadureceu rápido. Segundo o relatório State of AI Development 2026 da OutSystems, 96% das organizações já usam agentes em alguma capacidade — e 52% adotam o modelo human-on-the-loop, em que o humano supervisiona em vez de executar cada etapa. A Dynatrace complementa: 69% das decisões tomadas por sistemas agentic ainda passam por verificação humana, e 87% das organizações estão construindo ou implantando agentes que exigem supervisão.

Os números parecem tranquilizadores. Não são.

A tese é simples: o humano no loop, do jeito que a maioria das empresas o implementa, não é um controle de risco — é um placebo organizacional. Colocar alguém para "aprovar" o que o agente faz só reduz risco se esse alguém tiver tempo, contexto e incentivo para discordar. Na prática, quando o agente acerta quase sempre, o revisor humano vira carimbo. E o carimbo falha exatamente no caso que importava: o raro, o ambíguo, o caro.

A prova de que o mercado sabe disso — mas ainda não agiu — está na Deloitte: apenas 21% dos líderes de TI e negócios entrevistados dizem ter um modelo de governança maduro para agentic AI. Ou seja, quase todo mundo tem agente, metade tem supervisão nominal, e um quinto tem governança de verdade. Esse gap é onde os acidentes vão acontecer.

A régua certa não é "confiança na IA". É reversibilidade do erro

A pergunta errada, e a mais comum, é "o modelo é bom o suficiente para decidir sozinho?". A pergunta certa é: se o agente errar, quanto custa desfazer?

Um e-mail de triagem mal classificado se corrige em segundos. Um pagamento liberado indevidamente, uma cláusula contratual gerada errada, uma nota clínica com dado invertido — esses erros têm custo de reversão alto, às vezes irreversível. É esse eixo, e não a acurácia média do modelo, que deve definir onde o humano fica.

Os casos que funcionam em produção respeitam essa lógica com disciplina. Na Morgan Stanley, o assistente de IA alcançou 98% de adoção entre os advisors e reduziu consultas de conhecimento interno de mais de 30 minutos para segundos — mas o juízo de investimento e o aconselhamento final ao cliente continuam humanos. A IA acelera a busca; não assina a recomendação. Na AtlantiCare, na saúde americana, o agente gera notas clínicas estruturadas a partir das consultas, com 80% de adoção entre profissionais, 42% de redução na documentação e 66 minutos economizados por clínico por dia. O médico valida tudo. O agente escreve; não diagnostica.

Repare no padrão: a autonomia cresce na execução e na triagem, não na decisão. O JPMorgan, com mais de 450 casos de uso de IA em produção segundo fontes de mercado, usa a tecnologia para sintetizar documentos, memos e materiais regulatórios — e mantém decisões de risco e compliance final com pessoas. O IBM AskHR contém 94% das consultas internas de RH (foram 11,5 milhões de interações em 2024), mas disputas trabalhistas e decisões sensíveis de pessoal escalam para humanos.

Nenhuma dessas empresas perguntou "a IA é confiável?". Todas perguntaram "qual erro eu aguento?".

O risco que ninguém mede: a supervisão que atrofia

Aqui entra o problema menos discutido. Quando um agente opera bem na maior parte do tempo, a organização baixa a guarda. As equipes monitoram menos, testam menos os casos de borda, documentam menos. É o deslocamento silencioso da responsabilidade: formalmente, há um humano no loop; funcionalmente, ninguém está olhando.

O paradoxo é cruel: quanto melhor o agente, pior o revisor. Um humano que quase nunca rejeita uma saída não está exercendo julgamento — está exercendo digitação. E quando o erro grave finalmente aparece, a empresa descobre que a "supervisão" era uma linha no organograma, não um controle operacional.

Por isso, supervisão humana precisa ser tratada como qualquer outro controle de risco: com métricas. Antes de escalar um agente — e principalmente antes de tirar gente do fluxo —, você deveria conseguir responder, com dados:

  • Taxa de intervenção real: com que frequência o revisor humano de fato altera ou bloqueia a saída do agente? Se é perto de zero, ou o agente é excelente ou o revisor virou carimbo — e você precisa saber qual dos dois.
  • Tempo de revisão por item: se o revisor despacha aprovações em segundos, ele não está revisando nada.
  • Taxa de erro por severidade, separando o erro barato (reclassificar um ticket) do erro caro (liberar um pagamento).
  • Custo e tempo de reversão quando o erro passa: é isso que define se a tarefa pode ganhar autonomia.

Essa é a barra mínima. Materiais de governança da Microsoft já tratam como pré-requisito algo ainda mais básico: identidade do agente, fronteiras de permissão explícitas, trilhas de auditoria e um human gate obrigatório para ações irreversíveis. A questão não é só o que o agente decide — é o que ele consegue executar sozinho. Um agente com credencial ampla e supervisão frouxa é um estagiário com senha de diretor.

Autonomia se conquista por tarefa, não por sistema

A consequência prática dessa visão é que "automatizar o processo X" é uma frase mal formulada. Processos são compostos de tarefas com perfis de risco diferentes. Triagem, sumarização, classificação e rascunho podem — e devem — ganhar autonomia rápido. Decisões com efeito jurídico, financeiro ou clínico sobre terceiros exigem aprovação humana enquanto as métricas acima não provarem o contrário.

E a Gartner projeta que 40% das aplicações corporativas devem embutir agentes específicos até o fim de 2026. Isso significa que a decisão de onde colocar o humano vai deixar de ser um projeto especial e virar uma decisão de arquitetura recorrente, embutida em cada sistema que a empresa compra ou constrói. Quem não tiver critério explícito vai herdar o critério do fornecedor — que otimiza para demo, não para o seu risco.

O que isso significa para empresas brasileiras

No Brasil, o cenário regulatório torna tudo isso menos opcional. Não há lei geral de IA em vigor: o PL 2.338/2023, aprovado no Senado em dezembro de 2024, segue em tramitação na Câmara. Na prática, o uso de agentes hoje é disciplinado principalmente pela LGPD — que já trata de decisões automatizadas e do direito à revisão humana em contextos de impacto. E a ANPD incluiu inteligência artificial e tecnologias emergentes em seu mapa de prioridades para o biênio 2026-2027, o que sugere fiscalização mais ativa à frente.

A tradução para o gestor brasileiro: agente de IA é projeto de compliance e risco, não só de produtividade. Em crédito, cobrança, RH, saúde, atendimento e segurança, o padrão mais defensável — jurídica e operacionalmente — continua sendo o humano como aprovador final de decisões que afetam clientes e trabalhadores. Em triagem, sumarização e rascunho interno, acelere sem culpa: é onde o retorno é rápido e o erro é barato.

Mas, sobretudo, pare de tratar "tem humano no loop" como resposta suficiente. A pergunta que um regulador, um juiz ou um cliente vai fazer não é se havia um humano no fluxo. É se esse humano tinha condições reais de intervir — e se você consegue provar isso com dados. Se a sua taxa de intervenção é desconhecida e a revisão média de cada item cabe num piscar de olhos, você não tem supervisão. Tem um carimbo caro esperando o dia de falhar.

Fontes