Revisão humana em IA: por que o human in the loop falha

Pergunte a qualquer gestor que implantou IA em decisão de crédito, triagem de currículos ou análise de sinistros como ele mitiga o risco regulatório. A resposta vem pronta: "tem um humano no loop". Alguém revisa antes de a decisão sair. Está tudo bem.

Não está. Na maioria das empresas, esse humano é um carimbo com CPF. Ele aprova o que o modelo recomendou, no prazo que a operação exige, sem acesso aos dados que geraram a recomendação e sem autoridade real para discordar. A empresa acredita que comprou uma apólice de seguro regulatório. O que ela comprou foi um figurante — e figurante não protege ninguém quando a fiscalização chega.

O carimbo não é revisão

O problema não é filosófico, é operacional. O revisor típico de saídas de IA confia excessivamente na resposta do modelo, porque ela chega formatada, articulada e com aparência de objetividade; não compreende o grau de incerteza por trás da recomendação; e aprova sob pressão de tempo, porque a IA foi vendida internamente justamente como ganho de velocidade — e um revisor que trava o fluxo vira gargalo, não guardião.

O relatório The State of AI in the Enterprise 2026, da Deloitte, é direto nesse ponto: não basta declarar que humanos permanecem no controle. É preciso definir em quais situações eles decidem, como as decisões automatizadas serão auditadas e quais registros do comportamento do sistema serão mantidos. Revisão sem evidência é uma etapa nominal do fluxo, não um controle.

E aqui está o paradoxo que poucos gestores enxergam: a revisão humana mal desenhada é pior do que nenhuma revisão. Sem ela, a empresa sabe que tem um sistema automatizado e trata o risco como tal. Com ela, a empresa relaxa os demais controles — monitoramento, bloqueios, testes de viés — porque "tem alguém olhando". A falsa sensação de segurança é o produto mais caro que a governança de IA pode entregar.

O artigo 20 não pede uma pessoa. Pede um processo.

O artigo 20 da LGPD assegura ao titular o direito de solicitar a revisão de decisões tomadas exclusivamente com base em tratamento automatizado que afetem seus interesses. Crédito negado, currículo descartado, perfil classificado — tudo isso está no alcance do dispositivo, como a própria ANPD detalha em seu material sobre o tema.

A leitura apressada do artigo produz a gambiarra clássica: se a decisão "exclusivamente automatizada" é o gatilho, basta enfiar um humano no meio e o gatilho desaparece. Só que a ANPD associa uso responsável de IA a transparência algorítmica, explicações claras, possibilidade de contestação e revisão efetiva de decisões automatizadas. Um revisor que aprova todas as recomendações do modelo, sem registro de critério, sem capacidade de reproduzir a decisão e sem histórico de discordância, não descaracteriza a decisão automatizada — ele a documenta. Pior: cria a prova de que a empresa sabia que precisava de revisão e escolheu simular uma.

E o custo de errar não é abstrato. A multa administrativa da LGPD pode chegar a 2% do faturamento bruto, limitada a R$ 50 milhões por infração. A inteligência artificial está no Mapa de Temas Prioritários da ANPD para 2026–2027, entre os eixos declarados de fiscalização, ao lado de biometria e proteção de crianças e adolescentes. Quem opera IA em decisão sobre pessoas não está mais numa zona cinzenta acadêmica — está no radar declarado do regulador.

O regulador parou de teorizar e começou a testar

A prova de que o jogo mudou de fase é o sandbox regulatório de IA da ANPD. A autoridade selecionou três empresas — Metatext, Synapse AI e Prevvine Tecnologia — para testar projetos em ambiente experimental, controlado e supervisionado, com projetos atuando desde março de 2026 e metodologia de testagem formalizada pela agência em setembro do mesmo ano. O foco central declarado do piloto é transparência algorítmica.

Traduzo o recado para o gestor: a ANPD está construindo, com casos reais, o repertório do que considera revisão adequada, explicação suficiente e controle proporcional. Quando esse repertório virar parâmetro de fiscalização, a defesa "ninguém sabia como fazer" terá deixado de existir. O regulador saberá — porque testou.

Revisão de verdade tem seis atributos. Conte quantos você tem.

Uma revisão humana que sobrevive a uma auditoria — e a um pedido de contestação de titular — precisa responder afirmativamente a estas perguntas:

Escopo definido: está documentado quais decisões exigem intervenção humana e quais podem seguir automatizadas?
Autoridade real: o revisor pode discordar do modelo, e o processo prevê o que acontece quando ele discorda?
Competência: o revisor foi treinado para entender os critérios e a incerteza do sistema, ou apenas para operar a tela?
Acesso: ele enxerga os dados e as fontes que geraram a recomendação, ou só a resposta final?
Registro: cada aprovação, alteração e discordância fica logada com justificativa, de forma que a decisão possa ser reconstruída?
Responsabilidade: está claro quem responde por uma decisão incorreta — o revisor, o gestor da área ou o dono do sistema?

Se a resposta for "não" para três ou mais, sua empresa não tem revisão humana. Tem um ritual. E rituais não aparecem bem em processos administrativos.

Um indicador simples e brutalmente revelador: a taxa de discordância do revisor. Se ela está em zero há meses, ou o modelo é perfeito — hipótese que nenhum fornecedor sério assinaria — ou a revisão é decorativa. Empresas maduras monitoram esse número com a mesma atenção que dão à acurácia do modelo, porque ele mede se o controle está vivo ou embalsamado.

O que isso significa para empresas brasileiras

Primeiro: pare de tratar "human in the loop" como resposta e comece a tratá-lo como pergunta. Quem revisa, com que acesso, com que autoridade, com que registro e com que prazo? Se a resposta não estiver escrita numa política interna com dono nomeado, ela não existe.

Segundo: dimensione a revisão pelo impacto, não pelo volume. Aplicações que afetam crédito, emprego, saúde, biometria ou crianças — exatamente os temas que a ANPD elegeu como prioritários para 2026–2027 — exigem revisão qualificada, trilha de auditoria capaz de reconstruir a decisão e canal funcional de contestação. Um chatbot de FAQ interno não precisa do mesmo aparato. Governança boa é proporcional; governança uniforme é cara e ineficaz nas duas pontas.

Terceiro: transforme a discordância em métrica de saúde. Revisor que nunca discorda é sintoma, não sucesso. Estabeleça amostragem, calibração periódica e registro obrigatório de justificativa — inclusive quando o humano confirma o modelo.

Por fim, entenda o momento. Com o sandbox da ANPD rodando com Metatext, Synapse AI e Prevvine, e a IA entre os eixos declarados de fiscalização, o padrão do que é revisão adequada está sendo escrito agora, com casos concretos. As empresas que desenharem revisão de verdade hoje vão tratá-la como diferencial competitivo — argumento de venda para clientes regulados e escudo em due diligence. As que mantiverem o carimbo com CPF vão descobrir, no pior momento possível, que o humano no loop nunca esteve lá.

"Tem um humano no loop" virou a mentira mais confortável da IA corporativa