Inteligência Artificial e Privacidade: como preparar a empresa para as novas regras

Adotar inteligência artificial generativa dentro da empresa não cria um atalho para a privacidade. Cria uma nova operação de tratamento que precisa ser entendida. Quando uma pessoa cola um contrato em um assistente, envia uma base de clientes para análise ou conecta um modelo a sistemas internos, dados pessoais podem entrar em prompts, arquivos temporários, registros de uso, bases de treinamento e respostas geradas.

O problema não está apenas na possibilidade de um fornecedor externo usar os dados para treinar modelos. Também é preciso saber quem pode acessar os conteúdos, por quanto tempo eles ficam armazenados, quais respostas podem ser compartilhadas e como a organização consegue investigar um erro. O uso informal de ferramentas, sem inventário e sem responsáveis, cria o chamado shadow AI: aplicações adotadas pelas equipes sem avaliação proporcional ao risco.

Em um sistema tradicional, costuma ser mais fácil identificar o formulário, o banco de dados e o responsável pelo processamento. Em uma solução de IA, o mesmo dado pode circular por uma camada de aplicação, um serviço de recuperação de documentos, um modelo de linguagem, ferramentas conectadas e logs técnicos. A operação pode ainda produzir inferências sobre uma pessoa, como probabilidade de fraude, perfil de interesse ou adequação a uma vaga.

Isso altera a pergunta que o time de privacidade precisa fazer. Não basta saber quais campos foram enviados. É necessário entender o que o sistema faz com eles, quais atributos podem ser inferidos, quem revisa a saída e se a decisão final afeta direitos ou oportunidades do titular. Um modelo que resume documentos internos e um modelo que classifica candidatos não devem receber o mesmo nível de controle.

A LGPD continua sendo o ponto de partida quando um sistema de IA trata dados pessoais. Seus princípios exigem, entre outros cuidados, finalidade, adequação, necessidade, transparência, segurança e prevenção. O texto da Lei nº 13.709/2018 também prevê o registro das operações de tratamento e disciplina o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais.

Isso não significa que toda IA precise ser proibida ou que a LGPD exija um documento específico chamado avaliação de impacto algorítmico. Significa que a organização precisa identificar a finalidade, escolher e justificar a base legal aplicável, limitar os dados, informar o titular quando necessário, proteger o ambiente e demonstrar como trata riscos e solicitações. As medidas podem variar conforme o contexto e o impacto do uso.

RAG, sigla de Retrieval-Augmented Generation, é uma arquitetura em que o modelo recebe documentos recuperados de uma base para produzir uma resposta. Em vez de depender apenas do conhecimento geral do modelo, o sistema consulta conteúdos selecionados pela organização, como políticas, contratos, manuais ou registros de atendimento.

Um RAG fechado pode reduzir a exposição quando a base documental fica em um ambiente controlado, o acesso é limitado e o fornecedor não usa os documentos para treinar o modelo geral. Mas a palavra fechado não é uma garantia técnica por si só. É preciso verificar onde os documentos ficam, como os vetores são protegidos, quem pode consultar cada coleção, quais logs são criados e se os prompts e respostas são retidos.

O controle precisa considerar também a autorização do usuário. Um colaborador não deve consultar, por meio do assistente, documentos que não poderia acessar diretamente. O mecanismo de recuperação precisa respeitar permissões, separação entre clientes e níveis de confidencialidade. Caso contrário, a IA apenas torna mais rápida uma falha de controle que já existia.

Dados sintéticos são registros produzidos artificialmente para reproduzir algumas propriedades estatísticas ou estruturais de uma base real. Eles podem ajudar em testes, desenvolvimento e treinamento quando a organização não precisa expor os registros originais. Também podem ser úteis para criar cenários raros sem distribuir diretamente informações de clientes, pacientes ou empregados.

Isso não permite concluir que todo dado sintético está fora do alcance da privacidade. Se o processo copiar demais uma pessoa real, conservar identificadores indiretos ou permitir que alguém reconstrua indivíduos a partir da combinação de atributos, o risco continua. A avaliação deve considerar a técnica usada, a qualidade da geração, a possibilidade de reidentificação, os destinatários, o contexto e a finalidade.

Antes de usar uma base sintética, documente de onde veio a base original, quais transformações foram aplicadas, quais testes foram realizados e quem aprovou o uso. Compare distribuições, procure registros raros, avalie ataques de ligação e examine se o modelo memoriza exemplos. Quando a finalidade puder ser atendida com dados fictícios simples, essa alternativa talvez seja mais segura e mais fácil de explicar.

Nem todo sistema que analisa uma imagem, uma voz ou um padrão de comportamento trata dados biométricos da mesma forma. A classificação depende do tipo de informação, da finalidade e da possibilidade de vinculação a uma pessoa. Uma representação matemática de um rosto ou de uma voz pode ser considerada dado pessoal e, quando vinculada a uma pessoa natural para identificá-la, pode envolver dado biométrico sensível nos termos da LGPD.

O risco também aparece em sinais que não são chamados de biometria no contrato comercial. Identificadores de dispositivo, ritmo de digitação, padrão de navegação, localização recorrente e características de voz podem permitir reconhecimento, classificação ou inferências. O time responsável deve perguntar se o dado diferencia pessoas, se pode ser combinado com outras fontes e se o uso cria efeitos relevantes para o titular.

Para esses projetos, registre a necessidade do tratamento, a alternativa menos intrusiva, a retenção, os acessos, os testes de desempenho por grupo e o processo de contestação. Uma boa acurácia média não elimina problemas de falsos positivos ou impactos concentrados em determinados grupos.

O AI Act é o Regulamento europeu sobre inteligência artificial. Ele entrou em vigor em 2024 e possui aplicação progressiva, com regras diferentes conforme o tipo de sistema, o papel da organização e o risco envolvido. A Comissão Europeia informa que parte das regras já começou a ser aplicada e que os principais marcos seguem um calendário escalonado, com exceções e períodos de transição.

A norma não é uma lei brasileira e não transforma automaticamente toda empresa brasileira em uma organização regulada pela União Europeia. Ainda assim, pode ser relevante para quem oferece sistemas no mercado europeu, utiliza soluções dentro do escopo territorial do regulamento ou atende clientes e operações conectados àquele mercado. Mesmo quando não houver aplicação direta, seus conceitos podem influenciar contratos, exigências de clientes e modelos internos de governança.

O AI Act trabalha com categorias de risco, deveres para diferentes participantes e regras de transparência para determinados usos. Por isso, é mais seguro abandonar frases como a nova lei proíbe toda IA ou o regulamento exige explicabilidade absoluta. A análise depende da função do sistema, do setor, da finalidade e do papel desempenhado pela empresa. No Brasil, a discussão regulatória continua ligada à proteção de dados, aos direitos dos titulares e à atuação institucional da ANPD. A Autoridade mantém iniciativas sobre IA e proteção de dados, incluindo estudos e sandbox regulatório, mas isso não deve ser confundido com uma autorização geral para qualquer uso.

Uma política genérica dizendo não insira dados confidenciais em ferramentas públicas é um começo, mas não resolve todo o problema. A organização precisa transformar a orientação em decisões, controles e evidências. O programa pode ser proporcional ao risco, desde que responda às perguntas certas e seja aplicado às ferramentas realmente usadas pelas equipes.

O inventário deve ser conectado ao programa de privacidade. Para cada uso, registre a finalidade, os dados, a base legal, os responsáveis, o fornecedor, as medidas de segurança, os riscos e as evidências de validação. Se o sistema muda de modelo, recebe uma nova fonte de dados ou passa a tomar decisões mais relevantes, a mudança deve reabrir a análise.

Também vale separar o uso experimental do uso em produção. Um protótipo pode trabalhar com dados fictícios e acesso limitado. Quando a solução passa a atender clientes, apoiar o recrutamento, orientar crédito ou operar em saúde, o nível de controle precisa aumentar. A autorização para testar uma ferramenta não deve ser interpretada como autorização para qualquer finalidade futura.

Quando uma IA apenas sugere uma resposta para um profissional, a responsabilidade é diferente de quando ela exclui um candidato, define uma pontuação de risco ou bloqueia uma transação. A participação humana precisa ser real, com acesso aos elementos necessários para revisar a recomendação. Um botão de aprovação sem tempo, contexto ou poder para alterar o resultado não representa uma revisão efetiva.

Documente quais dados influenciam a saída, quais critérios são considerados, quais limites foram definidos e como o titular pode questionar o resultado. Preserve registros suficientes para reconstruir a decisão sem guardar dados por tempo indefinido. Se o modelo gerar uma explicação, trate essa informação como apoio e não como prova de que a decisão foi justa ou correta.

Para uma equipe pequena, o inventário de IA pode começar em uma planilha e em procedimentos simples. A dificuldade aparece quando existem muitos fornecedores, modelos, áreas, avaliações e revisões que precisam permanecer relacionadas. Nesse cenário, uma plataforma de governança pode centralizar o mapeamento dos tratamentos, acompanhar responsáveis, organizar evidências e facilitar a revisão dos riscos.

Na LGPD Cloud, o trabalho pode partir do Mapeamento de Dados e dos registros de tratamento relacionados ao uso de IA. Isso ajuda a conectar a ferramenta ao processo de negócio, à finalidade, aos dados e aos responsáveis, sem transformar a plataforma em substituta da análise técnica, jurídica ou de segurança. O benefício está em manter o histórico e tornar visíveis as pendências que poderiam ficar espalhadas em documentos e mensagens.

A discussão sobre inteligência artificial e privacidade não se resume a escolher entre inovação e proibição. A empresa precisa entender quais dados entram no sistema, o que pode ser inferido, quem participa do tratamento e como os resultados afetam as pessoas. RAG fechado, dados sintéticos, biometria e modelos externos podem reduzir determinados riscos, mas nenhum deles funciona como selo automático de conformidade.

O caminho mais seguro começa com um inventário honesto, uma finalidade clara e controles proporcionais ao impacto. A organização deve envolver privacidade, jurídico, segurança, tecnologia e as áreas de negócio, registrar as decisões e revisar o uso quando o modelo, o fornecedor ou a finalidade mudar. Assim, as novas regras deixam de ser apenas manchetes e passam a orientar uma prática concreta de responsabilidade sobre dados e decisões automatizadas.