Governança de IA e LGPD: o que exigir antes de colocar um agente em produção

Por que agente de IA muda a conversa sobre LGPD

Um sistema comum faz o que foi programado. Um agente decide o que consultar e o que fazer a partir do que lê. Isso traz três diferenças práticas:

• Ele pode acessar mais do que precisa. Se tem permissão para ler o cadastro inteiro, pode trazer para a conversa dados que nada têm a ver com o caso.
• Os dados passam por mais lugares. O texto vai para o provedor do modelo, pode ficar em registros, em memória de conversa, em bases de busca.
• Ele pode tomar decisões que afetam pessoas. Aprovar, negar, priorizar, classificar. A LGPD dá ao titular o direito de pedir revisão de decisões tomadas unicamente com base em tratamento automatizado que afetem seus interesses (artigo 20).

A lei vale do mesmo jeito para uma planilha e para um agente. O que muda é a quantidade de caminhos por onde o dado pode escapar ou ser usado de forma errada.

Onde estão os pontos de exposição

Antes de qualquer contrato, faça um mapa simples do caminho dos dados. Os pontos que mais aparecem:

• Entrada. O que chega ao agente: mensagens, anexos, áudios, documentos. Clientes mandam mais do que foi pedido, como foto de documento, dado de saúde ou dado de terceiros.
• Contexto enviado ao modelo. Tudo o que o agente manda para o provedor do modelo em cada chamada: instruções, histórico, registros consultados.
• Provedor do modelo. Onde ele processa, se guarda o conteúdo, por quanto tempo e se usa para treinar.
• Ferramentas e integrações. Cada sistema que o agente acessa e com qual nível de permissão.
• Memória e bases de busca. Conversas guardadas para continuidade e documentos indexados para consulta. É comum esquecer que isso também é base de dados pessoais.
• Registros e logs. Necessários para auditoria, mas que muitas vezes guardam o conteúdo completo das conversas sem prazo de descarte.
• Saída. O que o agente responde e para quem. Um erro de identificação pode mandar dado de um cliente para outro.

Se algum desses pontos envolve servidores fora do Brasil, você está diante de transferência internacional de dados. A LGPD trata do tema e a ANPD regulamentou os mecanismos aceitos. Pergunte ao jurídico qual base o contrato usa.

O que cobrar do fornecedor

Seja uma plataforma pronta, seja uma empresa que vai construir o agente para você, peça respostas por escrito:

• Quais provedores de modelo são usados, em que países os dados são processados e se o conteúdo é usado para treinar modelos.
• Por quanto tempo cada tipo de dado é guardado (conversas, registros, memória, bases de busca) e como é feita a exclusão.
• Quem dentro do fornecedor pode ver o conteúdo das conversas, em que situação e com que registro.
• Como o agente acessa os seus sistemas: com qual identidade, com quais permissões e se dá para restringir por função.
• Que registro existe de cada ação do agente, se você tem acesso a ele e em que formato.
• Como é feita a comunicação em caso de incidente de segurança e em quanto tempo você é avisado.
• Quais subcontratados participam do tratamento.
• Como o fornecedor ajuda você a atender pedidos de titulares: acesso, correção, exclusão.

Na maior parte desses projetos, a sua empresa é a controladora dos dados e o fornecedor é operador. O contrato precisa refletir isso, com as obrigações do operador descritas. Resposta vaga como "seguimos as melhores práticas" não é resposta.

Se o fornecedor não consegue dizer onde o dado passa e quanto tempo fica, ele ainda não está pronto para produção.

O que precisa estar pronto do seu lado

Parte da governança não pode ser terceirizada. Antes de ligar o agente, confira:

• Finalidade e base legal. Para que o agente trata cada tipo de dado e com qual base legal. Se o uso é novo, veja se a base atual cobre.
• Registro das operações de tratamento. A LGPD pede que controlador e operador mantenham esse registro (artigo 37). O agente precisa entrar nele.
• Relatório de impacto, quando cabível. Se o tratamento envolve dados sensíveis, grande volume ou decisões automatizadas relevantes, vale preparar um relatório de impacto à proteção de dados com o encarregado.
• Mínimo necessário. O agente acessa só os campos de que precisa. Se ele confere entregas, não precisa ver dados financeiros do cliente.
• Aviso ao titular. Quem conversa com o agente sabe que está falando com uma IA e sabe como chegar a uma pessoa.
• Caminho para revisão humana. Se o agente toma ou recomenda decisões que afetam o titular, existe um jeito claro de pedir revisão.
• Dono do agente. Uma pessoa responsável por acompanhar o funcionamento, aprovar mudanças e responder quando algo der errado.

Controles que fazem diferença no dia a dia

Documentos sozinhos não protegem ninguém. Os controles que mais reduzem risco na prática:

• Permissões por função, com acesso só de leitura onde não há motivo para escrita.
• Aprovação humana antes de ações que expõem dados para fora ou que não têm volta.
• Mascaramento de dados que o modelo não precisa ver, como números completos de documento e de cartão.
• Prazo de descarte definido para conversas, memória e registros, executado automaticamente.
• Registro de cada ação do agente, protegido contra alteração e com acesso controlado.
• Testes com casos difíceis antes de ligar: cliente pedindo dado de outra pessoa, mensagem com instrução escondida, documento com dado sensível que não foi pedido.
• Uma forma rápida de desligar o agente ou uma ferramenta específica se algo der errado.

Quando algo der errado

Mesmo com tudo isso, um incidente pode acontecer. Pode ser um dado mostrado à pessoa errada, um acesso indevido ou um registro vazado. A LGPD exige comunicar à ANPD e aos titulares os incidentes que possam acarretar risco ou dano relevante (artigo 48), e o regulamento da ANPD sobre o tema fixa prazo de três dias úteis para essa comunicação.

Três dias úteis é pouco se você precisa descobrir, do zero, o que aconteceu. Por isso, antes de entrar em produção, tenha definido:

• Quem é avisado primeiro e quem decide desligar o agente.
• Onde estão os registros que mostram o que o agente acessou e fez.
• Quem do fornecedor responde e em quanto tempo.
• Como o encarregado de dados entra no processo.

Com isso pronto, um incidente vira um procedimento conhecido em vez de uma corrida.