ZexIAFalar Conosco
Contato
Voltar ao Blog
Negócios

A IA virou o superusuário que sua empresa nunca autorizou

ZexIA Inteligência9 min de leitura
A IA virou o superusuário que sua empresa nunca autorizou

Toda discussão sobre IA e LGPD gira em torno do mesmo medo: o dado que sai da empresa. Funcionário colando contrato de cliente no ChatGPT, planilha de pacientes vazando para um modelo público. É um risco real — a Sky.One classifica o envio de dados de clientes a IAs sem anonimização ou sem contratos de salvaguarda como infração grave sob a LGPD, sujeita a multas e sanções reputacionais.

Mas esse é o risco fácil. Ele tem nome, tem checklist, tem fornecedor vendendo solução. O risco difícil — e quase ausente das conversas de diretoria — é o dado que circula dentro da empresa através da IA. É o que a Corpview descreve como propagação silenciosa de permissões: quando um agente de IA conectado a e-mails, documentos e bancos de dados internos passa a enxergar mais do que qualquer colaborador individual jamais enxergou.

Minha tese é direta: a maioria das empresas brasileiras que adotou copilotos corporativos criou, sem perceber, um superusuário informal. Esse superusuário não passou por nenhum processo de autorização, não tem matrícula, não assina termo de confidencialidade — e responde a qualquer pergunta de qualquer funcionário com acesso à ferramenta.

O problema não é o que a IA sabe. É para quem ela conta

Pense na arquitetura típica de um copiloto interno. Ele se conecta ao ERP, ao CRM, ao repositório de documentos, às caixas de e-mail. Cada um desses sistemas tem seu próprio controle de acesso: o analista de vendas não vê folha de pagamento, o estagiário do jurídico não vê o data room da fusão. Décadas de RBAC, perfis e segregação de função construíram essas muralhas.

O agente de IA atravessa todas elas. Para ser útil, ele foi indexado com tudo. E quando um usuário pergunta "qual foi a maior rescisão paga este ano?", o modelo pode responder com informação que, nos sistemas de origem, aquele usuário jamais acessaria.

A Corpview coloca isso como pilar central de governança: as permissões que valem para pessoas devem valer para modelos e agentes — a IA só deve responder a cada usuário com o que aquele usuário pode ver. Parece óbvio. Na prática, é raro. A maioria das implementações indexa o dado uma vez, de forma agregada, e entrega a mesma visão para todo mundo. O resultado é que a empresa pode ter RBAC impecável em cada sistema-fonte e, ainda assim, violar na prática os princípios da necessidade e da minimização que a LGPD impõe.

E aqui está o ponto jurídico que os gestores subestimam: a Macher Tecnologia lembra que a LGPD não menciona LLMs nem modelos generativos, mas seus princípios — finalidade, necessidade, transparência, adequação, prevenção, segurança, responsabilização — se aplicam integralmente sempre que uma IA trata dados pessoais. O Artigo 46, citado pela Novait Brasil, exige medidas técnicas e administrativas contra acessos não autorizados. Um copiloto que expõe dados de RH a quem não deveria vê-los é um acesso não autorizado. O fato de o acesso ter acontecido dentro do firewall não muda nada.

Anonimização e contrato enterprise não resolvem isso

As defesas mais vendidas do mercado atacam o vazamento para fora. A Sky.One, com o Autosky, recomenda um pacote consistente: perímetro de rede seguro com DLP, mascaramento de dados sensíveis antes do envio a modelos, bloqueio de interfaces gratuitas de consumidor e uso exclusivo de APIs enterprise com cláusulas explícitas de não utilização dos dados para treinamento público.

Tudo isso é necessário. Nada disso resolve o superusuário interno. Você pode ter o contrato mais blindado do mundo com o provedor do modelo — o problema não está no provedor. Está na sua própria arquitetura de acesso, que ninguém redesenhou quando a IA entrou.

O agravante é a auditoria. A Corpview aponta que, sem lineage — a capacidade de rastrear de onde veio cada dado que alimenta a IA e como foi usado —, a empresa não consegue responder a um questionamento da ANPD ou de um cliente. Quando o incidente acontece via copiloto, a pergunta deixa de ser "quem acessou o arquivo?" e vira "quem perguntou o quê ao agente, e o que o agente respondeu com base em quê?". Se sua trilha de auditoria não captura isso, você não consegue nem dimensionar o incidente, quanto mais demonstrar conformidade.

O que fazer: tratar a IA como um funcionário com crachá

A solução não é banir copilotos — a própria Sky.One recomenda não proibir a IA, e sim criar camadas de isolamento e controle entre a infraestrutura interna e as ferramentas externas. A solução é dar à IA o mesmo tratamento que você daria a um funcionário novo com acesso amplo: identidade, permissões explícitas, registro de tudo o que faz.

Na prática, isso significa quatro movimentos:

  • Propagar permissões para o modelo. A recuperação de informação do agente deve filtrar por identidade do usuário que pergunta, não entregar o índice inteiro. Se o sistema-fonte nega o acesso, a IA nega a resposta.
  • Classificar antes de indexar. O inventário e a classificação de dados por sensibilidade — primeiro pilar da Corpview — vêm antes de qualquer conexão. Dados sensíveis (saúde, finanças, identificação) exigem, segundo a Novait, restrições mais severas ou arquitetura dedicada: nuvem privada, isolamento de tenant ou modelo on-premise.
  • Registrar interações, não só acessos. Auditoria de prompts e respostas, com trilha rastreável, como recomenda a Macher. A pergunta feita à IA é o novo log de acesso.
  • Escrever a política antes do piloto. A Novait detalha o escopo mínimo: quais ferramentas são homologadas, quais categorias de dado podem ser inseridas, quem responde por cada área — TI, jurídico, compliance e DPO juntos, não depois.

Há um custo nisso, claro. Propagar permissões torna o agente menos onisciente e, portanto, menos impressionante na demo. Mas a demo que responde tudo para todos é exatamente o produto que a ANPD vai olhar com lupa. Explicabilidade e trilha de auditoria, como insiste a Corpview, precisam nascer com o projeto — não ser enxertadas depois que o modelo está em produção e o incidente já aconteceu.

O que isso significa para empresas brasileiras

Desde setembro de 2020, quando a LGPD entrou em vigor — como lembra o portal LGPD Brasil —, a responsabilidade pelo tratamento de dados é da empresa que usa a ferramenta tanto quanto de quem a fabrica. Não existe terceirizar a culpa para o provedor do modelo.

Para o gestor brasileiro, a mensagem é: antes de perguntar "nossos dados estão saindo para fora?", pergunte "nossa IA está redistribuindo dados por dentro?". Faça o teste mais barato que existe: peça a um usuário de perfil restrito que pergunte ao copiloto algo que ele não deveria saber — salários, contratos, dados de pacientes. Se a resposta vier, você tem um incidente de LGPD em câmera lenta, e a multa prevista na lei, de até 2% do faturamento, limitada a R$ 50 milhões por infração, deixa de ser abstração.

Em setores como jurídico, saúde e financeiro, onde o dado sensível é a matéria-prima do negócio, essa disciplina não é burocracia: é a diferença entre uma IA que escala a operação e uma IA que escala o passivo. O superusuário informal já está contratado na maioria das empresas. Falta alguém dar o crachá — e as regras — para ele.

Fontes