Fine-Tuning von LLMs mit nicht verifizierten Unternehmensdaten: das Compliance-Risiko, das niemand absichert

Jedes Unternehmen, das ein Modell per Fine-Tuning mit internen Daten anpasst, trifft damit eine implizite Aussage über die Integrität dieser Daten. Die meisten haben nicht geprüft, ob diese Aussage zutrifft.

AutorROOTKey
6 Min. LesezeitSicherheit · Unternehmen
Banner des Blogartikels: Fine-Tuning von LLMs mit nicht verifizierten Unternehmensdaten: das Compliance-Risiko, das niemand absichert

Einleitung

Das Fine-Tuning eines Allzweckmodells mit internen Unternehmensdaten ist heute eine routinemäßige Engineering-Aufgabe und kein Forschungsprojekt. Man zieht das Kundensupport-Archiv, die interne Wissensdatenbank und die historischen Entscheidungsunterlagen heran, startet den Fine-Tuning-Job und bringt das verbesserte Modell in Produktion. Was in dieser Pipeline selten gefragt wird, ist eine Frage mit echtem regulatorischem Gewicht: Wurden diese internen Daten selbst jemals verifiziert, oder hat man ihnen einfach vertraut, weil es unsere sind?

Interne Daten sind nicht automatisch vertrauenswürdige Daten

Durch die meisten Fine-Tuning-Pipelines zieht sich eine stillschweigende Annahme: Externe Daten müssen geprüft werden, interne nicht, weil sie aus unseren eigenen Systemen stammen. Diese Annahme übersieht, wie sich interne Daten über Jahre tatsächlich ansammeln - manuelle Korrekturen, die nie erneut validiert wurden, Einträge, die von inzwischen ausgeschiedenen Mitarbeitenden mit mittlerweile entzogenen Zugriffsrechten bearbeitet wurden, historische Einträge, die aus Systemen kopiert wurden, die inzwischen außer Betrieb genommen oder mit Datenverlust migriert wurden, und im feindseligeren Fall Änderungen durch Innentäter, die nie darauf ausgelegt waren, entdeckt zu werden. Keiner dieser Fehlermodi erfordert einen externen Angreifer. Sie alle können sich am Ende fest im Verhalten eines per Fine-Tuning angepassten Modells verankern.

Warum daraus ein Compliance-Problem wird und nicht nur ein technisches

Nach Artikel 10 der KI-Verordnung der EU gelten die Pflichten zur Daten-Governance für Trainings-, Validierungs- und Testdaten, unabhängig davon, ob diese Daten intern oder extern entstanden sind - die Verordnung unterscheidet nicht nach der Herkunft der Daten, sondern nur danach, wie das resultierende System eingesetzt wird. Ein per Fine-Tuning angepasstes internes Modell, das in einem Hochrisiko-Kontext eingesetzt wird, erbt dieselben Anforderungen an die Daten-Governance wie ein Modell, das mit Daten Dritter trainiert wurde, und „Wir haben diesen Daten immer vertraut“ ist keine vertretbare Antwort, wenn ein Prüfer fragt, wie die Integrität der Daten verifiziert wurde, bevor sie in die Trainingspipeline gelangten.

Was die Verifizierung interner Daten tatsächlich erfordert

Interne Daten für ein Fine-Tuning zu verifizieren bedeutet nicht, sie von Grund auf neu zu erheben. Es bedeutet, für den konkreten Datensatz, der in einen bestimmten Fine-Tuning-Lauf einfließt, nachweisen zu können, wann jeder Eintrag erstellt oder zuletzt geändert wurde, durch welchen Prozess und ob er sich seit einem bekanntermaßen einwandfreien Zustand verändert hat. Die meisten Data Warehouses in Unternehmen können Teile davon für die jüngste Aktivität über die üblichen Änderungsprotokolle beantworten, aber nur wenige können dies mit kryptografischer Gewissheit für die Jahre an angesammelter Historie leisten, die typischerweise in einen Fine-Tuning-Datensatz einfließen.

  1. Interne Daten, die für ein Fine-Tuning herangezogen werden, mit derselben Sorgfalt auf ihre Herkunft prüfen wie Daten Dritter - die Quelle allein begründet keine Vertrauenswürdigkeit
  2. Für jeden Datensatz eine bekanntermaßen einwandfreie, kryptografisch verankerte Baseline festlegen, bevor er in eine Fine-Tuning-Pipeline gelangt
  3. Dokumentieren und verifizieren, wer über die gesamte vom Datensatz abgedeckte Historie Schreibzugriff auf die Quellsysteme hatte, nicht nur für die jüngste Aktivität
  4. Jeden Fine-Tuning-Lauf als Ereignis behandeln, das einen eigenen Snapshot des Datensatzes und einen eigenen Verifizierungsnachweis erfordert, und nicht als erneuten Abruf aus einer aktiven, veränderlichen Quelle
Abstraktes Diagramm, das interne Daten zeigt, die in eine Fine-Tuning-Pipeline fließen, mit einer hervorgehobenen nicht verifizierten Lücke.
Intern heißt nicht verifiziert. Fine-Tuning-Pipelines erben sämtliche Integritätslücken, die in Unternehmensdaten bereits bestehen.

Ein Fine-Tuning mit internen Daten befreit ein Unternehmen nicht von seinen Pflichten zur Daten-Governance - es macht die Lücke nur leichter zu übersehen. Sehen Sie, wie ROOTKey eine verifizierbare Baseline für Unternehmensdaten schafft, bevor sie in eine Trainingspipeline gelangen.

Teilen LinkedIn X
Alle Artikel

Auf dem Laufenden bleiben

Erhalten Sie Einblicke in
Cyber-Resilienz per E-Mail.

Praxisnahe, auditbereite Orientierung zu Datenintegrität, Compliance und Kontinuität - sobald wir veröffentlichen.