O RGPD sempre exigiu integridade dos dados. Com a IA, deixa de ser possível ignorá-la.
O RGPD exige integridade dos dados desde 2018. O artigo 5.º, n.º 1, alínea f) impõe uma «segurança adequada dos dados pessoais, incluindo a proteção contra o seu tratamento não autorizado ou ilícito e contra a sua perda, destruição ou danificação acidental». O artigo 5.º, n.º 1, alínea d) exige que os dados pessoais sejam «exatos e atualizados sempre que necessário».
Na maioria das organizações, estes requisitos foram interpretados como políticas de controlo de acessos e de cópias de segurança. Palavras-passe fortes, controlo de acessos baseado em funções, cópias de segurança regulares. Tecnicamente em conformidade. Na prática, insuficiente.
A IA altera esta equação. Quando os dados pessoais alimentam pipelines de treino de IA, motores de recomendação, sistemas de decisão automatizada ou ferramentas de triagem de recursos humanos, o princípio da exatidão deixa de ser passivo. Um único registo inexato ou adulterado num conjunto de dados de treino pode propagar-se de forma sistemática a milhares de decisões, cada uma das quais pode ser contestada individualmente ao abrigo do artigo 22.º do RGPD.
As autoridades de proteção de dados de toda a UE começam a estabelecer esta ligação.
Os requisitos do artigo 5.º que as implementações de IA ativam
Três princípios do artigo 5.º tornam-se substancialmente mais difíceis de cumprir quando os dados pessoais entram em pipelines de IA:
Exatidão (artigo 5.º, n.º 1, alínea d)). Os dados pessoais têm de ser exatos. Em contextos de IA, isto significa não só que os dados de origem eram exatos quando foram recolhidos, mas também que se mantiveram exatos e inalterados em todas as fases do pipeline de IA. O titular dos dados tem direito de retificação ao abrigo do artigo 16.º - mas, se o modelo já tiver sido treinado com dados inexatos, a retificação do registo de origem não desfaz os padrões que o modelo aprendeu.
Limitação da conservação (artigo 5.º, n.º 1, alínea e)). Os dados não devem ser conservados durante mais tempo do que o necessário. Os conjuntos de dados de treino de IA contêm frequentemente dados pessoais que foram recolhidos para uma finalidade diferente e conservados para além do prazo de conservação original. Se esses dados continuarem num corpus de treino, pode tratar-se de uma violação do princípio da limitação da conservação.
Integridade e confidencialidade (artigo 5.º, n.º 1, alínea f)). A «integridade» do artigo 5.º, n.º 1, alínea f) é habitualmente lida com foco na confidencialidade, mas as autoridades de controlo interpretam-na cada vez mais como uma exigência de integridade verificável - a capacidade de demonstrar que os dados não foram alterados, acidental ou deliberadamente.

O que a conformidade exige realmente
Cumprir os requisitos do artigo 5.º em sistemas de IA que tratam dados pessoais exige capacidades que a maioria das organizações ainda não tem:
Auditabilidade da composição dos dados de treino. Para qualquer modelo treinado com dados pessoais, tem de conseguir demonstrar exatamente que registos foram incluídos, quando foram incluídos e se ainda se encontravam dentro do respetivo prazo de conservação no momento do treino.
Deteção de adulteração ao longo de todo o pipeline. Os dados no momento do treino do modelo têm de ser, de forma demonstrável, os mesmos dados que foram capturados e verificados. Uma pista de auditoria criptográfica desde a origem até à execução do treino cumpre este requisito; um ficheiro de registo num sistema mutável não cumpre.
Capacidade de resposta aos pedidos dos titulares dos dados. Quando uma pessoa exerce o seu direito de retificação ou de apagamento, tem de conseguir identificar todos os sistemas de IA treinados com os seus dados e avaliar o impacto. Sem um registo completo e com integridade verificada da composição dos dados de treino, isto é praticamente impossível.
A infraestrutura de integridade dos dados da ROOTKey, alinhada com o RGPD, fornece a base técnica para os três requisitos. Veja como funcionam na prática as auditorias de conformidade facilitadas e inicie uma avaliação de conformidade gratuita.
