Die DSGVO hat schon immer Datenintegrität verlangt. Mit KI lässt sich das nicht mehr ignorieren.
Die DSGVO verlangt Datenintegrität seit 2018. Artikel 5 Abs. 1 lit. f schreibt „eine angemessene Sicherheit der personenbezogenen Daten, einschließlich Schutz vor unbefugter oder unrechtmäßiger Verarbeitung und vor unbeabsichtigtem Verlust, unbeabsichtigter Zerstörung oder unbeabsichtigter Schädigung“ vor. Artikel 5 Abs. 1 lit. d verlangt, dass personenbezogene Daten „sachlich richtig und erforderlichenfalls auf dem neuesten Stand“ sind.
In den meisten Organisationen wurden diese Anforderungen als Richtlinien für Zugriffskontrolle und Datensicherung ausgelegt. Starke Passwörter, rollenbasierter Zugriff, regelmäßige Backups. Technisch konform. In der Praxis unzureichend.
KI verändert diese Rechnung. Wenn personenbezogene Daten in KI-Trainingspipelines, Empfehlungssysteme, automatisierte Entscheidungssysteme oder HR-Screening-Tools einfließen, ist der Grundsatz der Richtigkeit nicht länger passiv. Ein einziger unrichtiger oder manipulierter Datensatz in den Trainingsdaten kann sich systematisch auf Tausende von Entscheidungen auswirken, von denen jede einzeln nach Artikel 22 DSGVO anfechtbar sein kann.
Datenschutzbehörden in der gesamten EU beginnen, diesen Zusammenhang herzustellen.
Die Anforderungen aus Artikel 5, die der Einsatz von KI auslöst
Drei Grundsätze aus Artikel 5 lassen sich deutlich schwerer erfüllen, sobald personenbezogene Daten in KI-Pipelines gelangen:
Richtigkeit (Artikel 5 Abs. 1 lit. d). Personenbezogene Daten müssen sachlich richtig sein. Im KI-Kontext bedeutet das nicht nur, dass die Quelldaten bei ihrer Erhebung richtig waren, sondern auch, dass sie in jeder Phase der KI-Pipeline richtig und unverändert geblieben sind. Die betroffene Person hat nach Artikel 16 ein Recht auf Berichtigung - doch wenn das Modell bereits mit unrichtigen Daten trainiert wurde, macht die Berichtigung des Quelldatensatzes die vom Modell erlernten Muster nicht rückgängig.
Speicherbegrenzung (Artikel 5 Abs. 1 lit. e). Daten sollten nicht länger als nötig gespeichert werden. KI-Trainingsdatensätze enthalten oft personenbezogene Daten, die für einen anderen Zweck erhoben und über die ursprüngliche Speicherdauer hinaus aufbewahrt wurden. Befinden sich diese Daten noch in einem Trainingskorpus, kann ein Verstoß gegen den Grundsatz der Speicherbegrenzung vorliegen.
Integrität und Vertraulichkeit (Artikel 5 Abs. 1 lit. f). Die „Integrität“ in Artikel 5 Abs. 1 lit. f wird häufig mit Schwerpunkt auf der Vertraulichkeit gelesen, doch die Aufsichtsbehörden legen sie zunehmend so aus, dass sie eine überprüfbare Integrität verlangt - die Fähigkeit nachzuweisen, dass Daten weder versehentlich noch absichtlich verändert wurden.

Was Compliance tatsächlich erfordert
Um die Anforderungen aus Artikel 5 bei KI-Systemen zu erfüllen, die personenbezogene Daten verarbeiten, sind Fähigkeiten nötig, über die die meisten Organisationen derzeit nicht verfügen:
Prüfbarkeit der Zusammensetzung der Trainingsdaten. Sie müssen für jedes Modell, das mit personenbezogenen Daten trainiert wurde, genau nachweisen können, welche Datensätze einbezogen wurden, wann sie einbezogen wurden und ob sie sich zum Zeitpunkt des Trainings noch innerhalb ihrer Aufbewahrungsfrist befanden.
Manipulationserkennung über die gesamte Pipeline. Die Daten zum Zeitpunkt des Modelltrainings müssen nachweislich dieselben Daten sein, die erfasst und verifiziert wurden. Ein kryptografischer Audit-Trail von der Quelle bis zum Trainingslauf erfüllt diese Anforderung; eine Logdatei in einem veränderbaren System nicht.
Reaktionsfähigkeit bei Anfragen betroffener Personen. Wenn eine Person ihr Recht auf Berichtigung oder Löschung ausübt, müssen Sie alle KI-Systeme ermitteln können, die mit ihren Daten trainiert wurden, und die Auswirkungen bewerten. Ohne einen vollständigen, integritätsgeprüften Nachweis der Zusammensetzung der Trainingsdaten ist das praktisch unmöglich.
Die an der DSGVO ausgerichtete Datenintegritätsinfrastruktur von ROOTKey bietet die technische Grundlage für alle drei Anforderungen. Erfahren Sie, wie vereinfachte Compliance-Audits in der Praxis funktionieren, und starten Sie eine kostenlose Compliance-Bewertung.
