Vazamento de dados em IA generativa: quem responde por isso?

Vazamento de dados em IA generativa acontece, na prática, quando alguém da sua empresa cola um contrato, um prontuário ou uma planilha de clientes numa ferramenta como ChatGPT, Gemini ou Copilot para resolver uma tarefa rápida. Não precisa de ataque nem de falha técnica para isso virar um problema. A LGPD trata a sua empresa como controladora desse dado, e ela responde pelo vazamento mesmo que a culpa pareça ser da ferramenta ou de quem colou o texto.

O problema raramente chega como um incidente isolado que alguém relata ao time de segurança. Ele se acumula em silêncio: um analista de RH testando um currículo, alguém do financeiro resumindo uma planilha, um atendente colando o histórico de um cliente para redigir uma resposta mais rápida. Nenhum desses casos aciona o alarme de segurança da informação tradicional, porque não houve invasão, só uso. Antes de desenhar qualquer controle, vale medir se isso já acontece na sua empresa: o Gap Analysis gratuito mostra, em menos de uma hora, se o risco está concentrado num processo específico ou espalhado pela operação toda, e essa resposta decide por onde começar.

Por que vazamento de dados em IA generativa não é um problema de TI

A segurança da informação tradicional foi desenhada contra um adversário externo: alguém que invade, rouba credencial, explora falha. O vazamento de dados em IA generativa costuma vir de dentro, de gente autorizada, usando o próprio computador da empresa, sem intenção de causar dano nenhum. É exatamente esse formato que faz o incidente passar batido por meses: nenhum firewall dispara, porque não há nada para bloquear num funcionário digitando um texto numa caixa de chat que o navegador acessa normalmente.

A LGPD não pergunta quem errou primeiro. Ela pergunta quem controla a finalidade do tratamento daquele dado, e é a empresa quem decide para que serve a informação que circula nela, mesmo que o canal usado para transmitir o dado tenha sido escolhido por um funcionário sem autorização formal. A lei obriga os agentes de tratamento a adotar medidas de segurança técnicas e administrativas capazes de proteger o dado contra acesso não autorizado e contra qualquer forma de tratamento inadequado, desde a concepção do processo². A responsabilidade da empresa por vazamento de dados em IA generativa nasce exatamente desse ponto: a lei cobra prevenção antes do fato, não desculpa depois dele.

Dado da empresa digitado no ChatGPT: o que acontece com ele depois?

Depende do plano e da configuração, mas a regra prática é simples: em contas gratuitas ou pessoais, o texto digitado pode ser usado para melhorar o modelo, salvo quando o usuário desativa essa opção manualmente, e poucas empresas verificam se cada funcionário fez isso em cada conta. Em planos empresariais com contrato de não retenção, o fornecedor costuma se comprometer a não usar o conteúdo para treinar o modelo geral, mas isso reduz um risco e deixa outro de pé: a empresa continua sem controle sobre quem digitou o quê, quando, e com qual dado real.

Esse número não veio de um ataque sofisticado. Veio de uso comum, repetido, dentro do horário de trabalho. É o mesmo padrão que aparece no inventário de sistemas de IA de qualquer empresa que faz esse levantamento direito: a ferramenta de IA generativa mais usada no dia a dia quase nunca é a que está no contrato de TI, é a que o navegador abriu numa aba sem ninguém pedir permissão.

Incidente de segurança com IA generativa: quando avisar a ANPD

Quando o dado que foi colado numa ferramenta de IA generativa é pessoal, a LGPD trata esse episódio como um possível incidente de segurança com IA generativa, e a regra de comunicação não muda por causa do canal usado. O controlador deve comunicar à autoridade nacional e ao titular a ocorrência de incidente de segurança que possa causar risco ou dano relevante, descrevendo a natureza do dado afetado, quem foi atingido, os riscos envolvidos e as medidas adotadas para reverter ou mitigar o efeito do dano².

A fiscalização desse ponto deixou de ser hipotética. A ANPD publicou um mapa de temas prioritários para o biênio 2026-2027 em que a inteligência artificial ocupa um eixo próprio de fiscalização, agora ampliado de reconhecimento facial para IA e tecnologias emergentes em geral, ao lado de direitos do titular, proteção de crianças e tratamento de dado pelo poder público⁴. Esse mapa já se desdobrou em número concreto: das 75 fiscalizações planejadas para o biênio, 20 são dedicadas a sistemas de inteligência artificial e tecnologias emergentes, concentradas em 2027⁵.

Montar um plano de resposta a esse tipo de incidente sob pressão, depois que ele já aconteceu, não é hora boa para começar do zero. Os modelos de política e inventário de sistemas de IA trazem o rascunho de política de uso e de plano de resposta a incidente já redigido; falta ajustar aos sistemas e ao fluxo de aprovação da sua empresa.

Prevenção de vazamento de dados em IA generativa: o que funciona e o que é teatro

Política escrita e assinada por todo mundo não impede ninguém de colar um dado numa ferramenta de IA generativa às onze da noite, sob prazo, sem ninguém olhando. Eu desconfio de qualquer plano de prevenção de vazamento de dados em IA generativa que termine no treinamento e na assinatura do termo, porque nenhum dos dois funciona no momento em que a pessoa está sob pressão para entregar algo rápido.

O que funciona é controle técnico combinado com processo, não um substituindo o outro. A ISO 42001 trata isso dentro do controle de proteção de dados de IA, que cobra controle de acesso, criptografia, versionamento e prevenção de vazamento de dado memorizado pelo modelo¹, e o mapa de controles do Anexo A ajuda a separar o que é bloqueio de ferramenta do que é governança de uso.

Esse risco não se limita ao chat principal da ferramenta mais conhecida. Extensão de navegador que promete resumir e-mail ou preencher formulário automaticamente, plugin de produtividade instalado sem passar por aprovação, e até funcionalidade de IA generativa embutida silenciosamente numa atualização de um sistema que a empresa já usa fazem o mesmo trajeto: o dado sai do ambiente controlado para um destino que ninguém mapeou. Bloquear o site da ferramenta mais famosa resolve uma fração pequena do problema se esses outros canais continuarem abertos.

Bloqueio por categoria de dado tem um custo que vale nomear antes de implantar: toda regra de DLP generalista erra para os dois lados. Ela deixa passar um CPF escrito num formato que o filtro não reconhece, e bloqueia um texto legítimo que só parece um dado sensível. O gargalo que aparece depois é organizacional: alguém precisa revisar o alerta todos os dias, senão a ferramenta de bloqueio se transforma em caixa de alerta ignorada, e o controle morre de desuso silencioso, do mesmo jeito que a política escrita morre de falta de fiscalização.

O mesmo vale para a lista de ferramentas aprovadas do checklist acima: todo mês surge uma ferramenta de IA generativa nova, embutida num produto que a empresa já usa ou instalada direto pelo funcionário, e a lista publicada em janeiro já não cobre o que circula em julho. Quem mantém essa lista viva, revisando e republicando com a mesma disciplina de quem atualiza antivírus, é tão responsável pelo resultado quanto quem escreveu a política original.

Nesse mesmo cenário, um bloqueio por categoria de dado teria interrompido o envio no momento em que o CPF da cláusula de garantia aparecesse no texto colado, antes de o resumo sair. É a diferença entre depender da atenção de uma pessoa sob prazo e depender de um controle que funciona exatamente quando essa atenção falha, que é a hora em que ela mais falha.

O que fazer quando um dado vazou por uma IA generativa?

O primeiro passo é descobrir a extensão real do que foi enviado, não minimizar o episódio enquanto se apura. Isso exige perguntar à pessoa envolvida, sem tom de punição, exatamente o que foi colado, porque a reação de medo é a maior responsável por incidente subnotificado e descoberto tarde demais.

Punir quem relatou o episódio ensina a empresa toda a parar de relatar, não a parar de usar a ferramenta. Eu prefiro tratar o primeiro relato como informação valiosa, não como falta a apurar, porque o custo de um incidente não contado é sempre maior do que o custo de um incidente admitido na hora. A exceção é quando existe reincidência depois de a política e o treinamento já terem sido comunicados com clareza: aí o problema deixou de ser desconhecimento e passou a ser decisão repetida, e a resposta muda de treinamento para medida disciplinar.

Documentar cada fase, mesmo quando a conclusão é que o incidente não exige aviso à ANPD, importa tanto quanto o aviso em si. Se a autoridade perguntar depois por que a empresa não comunicou um episódio, só existe resposta boa quando há registro de que alguém avaliou o caso e decidiu, com critério escrito, que o risco não era relevante. Decisão sem registro parece, depois do fato, igual a negligência.

Antes de redigir a próxima política de segurança da informação, pergunte a quem for responsável por ela quantas vezes um dado de cliente já foi digitado numa ferramenta de IA generativa este mês. Se a resposta demorar a vir, esse risco já está rodando na empresa hoje.

Veja também